Исследователи Microsoft провели эксперимент, чтобы выяснить, может ли искусственный интеллект обходить системы биобезопасности в процессе разработки новых белков.
Искусственный интеллект успешно преодолел защитные барьеры и получил разрешение на производство опасных для людей токсинов.
Для создания нового белка синтетическую ДНК часто заказывают у коммерческих поставщиков и затем внедряют в клетку. Однако система безопасности должна автоматически пресекать запросы на опасные соединения.
Исследователи применили ИИ-модели для создания белков, используемых в поиске лекарств. Эти модели позволили изменить структуру токсинов таким образом, чтобы фильтры не могли их распознать как угрозу, при этом сохранив их смертоносность.
Эксперимент проводился исключительно в цифровом формате, и конкретные токсины, которые были смоделированы, не разглашаются. Тем не менее, существует риск создания неотслеживаемых вариантов, таких как рицин (яд, получаемый из клещевины) или инфекционные прионы, связанные с коровьим бешенством.
В результате эксперимента был сделан важный вывод: необходимо модернизировать существующие системы защиты от биологических угроз. Специалисты рекомендуют усилить контроль за заказами синтетической ДНК. Однако некоторые ученые предлагают внедрять фильтры непосредственно в искусственный интеллект, чтобы он не мог создавать потенциально опасные молекулы.
Источник
