В российском центробанке рассказали об опасности искусственного интеллекта
«У продвинутых нейросетей есть одна очень нехорошая особенность, которую в профессиональных кругах называют высокой чувствительностью к малым возмущениям. Это способность нейросети радикально переклассифицировать объект из одной категории в другую при незначительном изменении одного из его малых параметров», — сказал Поздышев. В качестве примера он привел ситуацию, когда большинство нейросетей, решающих задачу биометрической идентификации, способно отличить мужчину от женщины или одного человека от другого, но если на лицо прилепить кусочек лейкопластыря и написать на нем слово «STOP», то некоторые нейросети переведут эту картинку из категории «лица» в категорию «дорожные знаки». Поздышев также подчеркнул, что нейросети способны создавать фейковую реальность. «Нейросеть, если ей поставить такую задачу, очень легко может создать миллионы лиц несуществующих людей, их голоса и отпечатки пальцев — полный набор несуществующих биометрических данных, то есть можно создать целое государство несуществующих людей. И можно их сделать так, что другие нейросети будут воспринимать их как людей реальных. Аналогично можно создать несуществующие юрлица и транзакции», — отметил Поздышев. Ранее бывший разработчик Google Лара Нолан пришла к выводу, что искусственный интеллект с помощью оружия сможет уничтожить города мира за считанные секунды. Аналитики Moody’s считают, что у искусственного интеллекта есть кредитные риски. Кроме того, искусственный интеллект принял участие в дебатах, где обсуждались преимущества и недостатки разработки нейросети. Во время дискуссии он отметил, что ИИ может причинить немало вреда. Напомним, Конгрессу США рассказали об опасности искусственного интеллекта.Даже самую сложную нейросеть можно взломать. Об этом рассказал зампред ЦБ РФ Василий Поздышев.
