Эксперимент с ИИ сгенерировал 40 000 гипотетических видов биологического оружия всего за 6 часов
Передовые возможности искусственного интеллекта по обработке чисел означают, что системы ИИ способны выявлять болезни на ранних стадиях, управлять химическими реакциями и объяснять некоторые тайны Вселенной. Но есть и обратная сторона этого невероятного и практически безграничного искусственного интеллекта.
Новое исследование подчеркивает, насколько легко модели ИИ можно обучить как для злонамеренных, так и для хороших целей, особенно в данном случае для представления конструкции гипотетических агентов биологического оружия. Пробный запуск с существующим ИИ выявил 40 000 таких химикатов для биологического оружия всего за 6 часов.
Другими словами, в то время как ИИ может быть невероятно мощным — и намного, намного быстрее, чем люди — когда дело доходит до обнаружения химических соединений и молекул лекарств для улучшения нашего здоровья, та же самая сила может быть использована для создания потенциально очень опасных и смертельных веществ.
«Мы десятилетиями использовали компьютеры и ИИ для улучшения здоровья человека, а не для его ухудшения», — пишут исследователи в новом комментарии. – Мы были наивны, думая о потенциальных злоупотреблениях, поскольку нашей целью всегда было избегать молекулярных особенностей, которые могли бы мешать многим различным классам белков, необходимых для жизни человека».
Команда провела испытание на международной конференции по безопасности, заставив систему ИИ под названием MegaSyn работать — не в обычном режиме, который заключается в обнаружении токсичности в молекулах, чтобы избежать их, а в обратном.
В эксперименте токсичные молекулы скорее сохранялись, чем удалялись. Более того, модель также была обучена соединять эти молекулы в комбинации — именно так за столь короткое время было создано так много гипотетического биологического оружия.
В частности, исследователи обучили ИИ молекулам в базах данных лекарствоподобных молекул, сообщив, что им нужно что-то похожее на сильнодействующее нервно-паралитическое вещество VX.
Как оказалось, многие полученные соединения были даже более токсичными, чем VX. В результате авторы нового исследования держат некоторые детали своего исследования в секрете и серьезно обсуждают, стоит ли вообще обнародовать эти результаты.
«Изменив использование наших моделей машинного обучения , мы превратили нашу безобидную генеративную модель из полезного медицинского инструмента в генератор вероятно смертельных молекул», — объясняют исследователи .
В интервью The Verge Фабио Урбина — ведущий автор новой статьи и старший научный сотрудник Collaborations Pharmaceuticals, где проводилось исследование, — объяснил, что не нужно много времени, чтобы «переключить переключатель» с хорошего ИИ на плохой ИИ.
Хотя ни одно из перечисленных видов биологического оружия на самом деле не исследовалось и не «собиралось» в лаборатории, исследователи говорят, что их эксперимент служит предупреждением об опасностях ИИ — и это предупреждение, к которому человечество должно прислушаться. Хотя для того, чтобы сделать то, что сделала здесь команда, требуется некоторый опыт, большая часть процесса относительно проста и использует общедоступные инструменты.
Теперь исследователи призывают «по-новому взглянуть» на то, как системы ИИ потенциально могут использоваться в злонамеренных целях. Они говорят, что большая осведомленность, более строгие руководящие принципы и более жесткое регулирование в исследовательском сообществе могут помочь нам избежать опасностей, к которым в противном случае могли бы привести эти возможности ИИ.
«Наше доказательство концепции, таким образом, подчеркивает, что нечеловеческий автономный создатель смертоносного химического оружия вполне осуществим», — объясняют исследователи. – Не будучи чрезмерно паникерским, это должно послужить тревожным звонком для наших коллег в сообществе «ИИ в открытии лекарств».
Источник: https://www.sciencealert.com
28.03.2022