Даже самую сложную нейросеть можно взломать. Об этом рассказал зампред ЦБ РФ Василий Поздышев.
«У продвинутых нейросетей есть одна очень нехорошая особенность, которую в профессиональных кругах называют высокой чувствительностью к малым возмущениям. Это способность нейросети радикально переклассифицировать объект из одной категории в другую при незначительном изменении одного из его малых параметров», — сказал Поздышев.
В качестве примера он привел ситуацию, когда большинство нейросетей, решающих задачу биометрической идентификации, способно отличить мужчину от женщины или одного человека от другого, но если на лицо прилепить кусочек лейкопластыря и написать на нем слово «STOP», то некоторые нейросети переведут эту картинку из категории «лица» в категорию «дорожные знаки». Поздышев также подчеркнул, что нейросети способны создавать фейковую реальность.
«Нейросеть, если ей поставить такую задачу, очень легко может создать миллионы лиц несуществующих людей, их голоса и отпечатки пальцев — полный набор несуществующих биометрических данных, то есть можно создать целое государство несуществующих людей. И можно их сделать так, что другие нейросети будут воспринимать их как людей реальных. Аналогично можно создать несуществующие юрлица и транзакции», — отметил Поздышев.
Ранее бывший разработчик Google Лара Нолан пришла к выводу, что искусственный интеллект с помощью оружия сможет уничтожить города мира за считанные секунды.
Аналитики Moody’s считают, что у искусственного интеллекта есть кредитные риски.
Кроме того, искусственный интеллект принял участие в дебатах, где обсуждались преимущества и недостатки разработки нейросети. Во время дискуссии он отметил, что ИИ может причинить немало вреда.
Напомним, Конгрессу США рассказали об опасности искусственного интеллекта.
- Крупные держатели Ethereum переместили $357 млн всего за несколько минут - 14.03.2023
- Биткоин и эфир прибавляют на фоне активизации азиатских и европейских трейдеров - 14.03.2023
- Glassnode выпустили индикатор, определяющий пики и дно биткоина - 13.03.2023
- Нигерия задействует технологию блокчейн в модернизации банковского сектора - 13.03.2023
- Гендиректор Messari призывает инвесторов покупать биткоины - 13.03.2023