Создание искусственных белков с помощью ИИ жля использования в научных и медицинских целей — самое передовое и захватывающее направление в науке. Однако возможности ИИ позволяют создавать и патогены, кроме того, возможны и опасные ошибки.
Новое программном обеспечении для мониторинга опасных белков, позволяет улавливать токсичные белки, измененные искусственным интеллектом
⏸
Программное обеспечение для скрининга биозащиты отслеживает производство ДНК, на предмет потенциально опасных белков. Искусственный интеллект может создавать токсины, которые не проходят фильтры безопасности, но новое исследование показывает, что программные исправления могут помочь их улавливать заранее.
Новые исправления к программному обеспечению для проверки биобезопасности могут затруднить производство потенциально вредных белков с помощью искусственного интеллекта.
По всему миру это программное обеспечение отслеживает процессы искусственного получения белков, гарантируя, что люди с дурными намерениями не производят опасные белки, такие как токсины. Небольшие изменения с помощью ИИ в отношении известных токсинов или вирусных белков могут обойти меры предосторожности, сообщают исследователи в журнале Science от 2 октября. Но устранение пробелов в скрининге может повысить способность программ выявлять опасные белки, созданные с помощью ИИ.
«Достижения в области искусственного интеллекта способствуют прорывам в биологии и медицине”, — сказал Эрик Хорвиц, главный научный сотрудник Microsoft в Редмонде, штат Вашингтон, на брифинге 30 сентября. “Вместе с новыми возможностями появляется ответственность за бдительность и продуманное управление рисками”.
Белки — это рабочие лошадки биологии. Молекулы выполняют клеточные задачи, такие как сборка клеток и транспортировка грузов по всему организму. С помощью искусственного интеллекта исследователи находят способы тонкой настройки существующих белков для выполнения конкретных задач, разработки новых белков или создания новых организмов.
Искусственный интеллект может создавать цифровые схемы белков, определяя аминокислоты, необходимые для их производства, но технология не позволяет создавать физические белки из воздуха. Производители ДНК соединяют соответствующие генетические коды и отправляют синтетические гены в исследовательские лаборатории. Компьютерные программы проверяют заказы, чтобы убедиться, что гены не создают опасные белки.
Хорвиц и его коллеги смоделировали тесты для моделей скрининга биозащиты, чтобы найти слабые места, которые могут позволить белкам, созданным искусственным интеллектом, пройти через фильтры. Команда разработала около 76 000 схем для 72 вредных белков, включая рицин, ботулинический нейротоксин и те, которые помогают вирусам заражать людей.
В то время как тесты биозащиты выявили наличие в ДНК почти всех белков в их первоначальном виде, многие версии, скорректированные с помощью искусственного интеллекта, все же просочились. Программные исправления помогли даже обнаружить гены после того, как они были разбиты на фрагменты. Модели не смогли выявить около 3 процентов вариантов.
Работа была полностью выполнена на компьютерах, а это означает, что команда не создавала физические белки в лаборатории, и неясно, сохранили ли свои функции варианты, созданные с помощью искусственного интеллекта.
На самом деле, проверки биозащиты, отмечающие заказы, касающиеся белков, “являются невероятно редким явлением”, — сказал Джеймс Дигганс, вице-президент по политике и биозащите Twist Bioscience, компании по синтезу ДНК, базирующейся в Сан-Франциско, на брифинге для прессы.
По словам Дигганса, несмотря на то, что угрозы кибербезопасности возникают постоянно, количество попыток создать вредоносные белки “близко к нулю”. “Эти системы являются важным средством защиты от [угроз], но нас всех должен утешать тот факт, что это не распространенный сценарий”.