Створення смертоносних вірусів може стати реальністю завдяки розвитку штучного інтелекту. Відкритий лист провідних ШІ-компаній до Конгресу США закликає до жорстких заходів. Чому це важливо зараз?
У світі науки та технологій триває невпинний розвиток, проте із цим приходять і нові виклики. Одним з таких викликів є можливість використання штучного інтелекту для створення біологічної зброї. Керівники провідних компаній, таких як OpenAI, Anthropic та Google DeepMind, підписали відкритий лист до Конгресу США, в якому висунули вимогу запровадити суворий контроль за синтезом ДНК. Це, на їхню думку, допоможе запобігти створенню небезпечних патогенів, здатних викликати глобальні пандемії.
Відповідно до тексту документа, на який посилається РБК-Україна, сучасні технології можуть дозволити створення смертоносних вірусів буквально за кілька кліків у чат-боті. Нейромережі вже навчилися модифікувати послідовності небезпечних патогенів таким чином, що автоматичні системи безпеки біотех-лабораторій перестають їх розпізнавати.
Проблема полягає в тому, що сьогодні процес створення ДНК автоматизований. Десятки компаній по всьому світу використовують комерційні синтезатори для “друку” кастомних генетичних послідовностей, які застосовуються в медичних дослідженнях. Проте далеко не всі постачальники дотримуються ретельної перевірки клієнтів та їх замовлень. Як приклад, ще у 2017 році дослідники змогли повторити вимерлий вірус кінської віспи, замовивши ДНК поштою.
Штучний інтелект як каталізатор загрози
Сучасні великі мовні моделі та інструменти ШІ для дизайну білків стали потужними каталізаторами загрози. Зловмисники можуть використовувати ці технології для пошуку лазівок, таких як підказки щодо постачальників ДНК, які дозволяють уникати перевірок. Нейромережі здатні маскувати замовлення або перефразувати структуру генетичного замовлення так, щоб захисне програмне забезпечення лабораторії не розпізнало токсичності чи вірусної природи коду.
Крім того, дослідження показують, що ШІ-моделі для проектування білків можуть створювати абсолютно нові небезпечні послідовності, які мають структуру відомих токсинів, але повністю ігноруються стандартним фільтрувальним програмним забезпеченням. Це створює нові виклики для безпеки.
Заклики до дії та законодавчі ініціативи
Ініціаторами відкритого листа стали Інститут прогресу (Institute for Progress) та Фонд американських інновацій (Foundation for American Innovation). Серед підписантів – видатні діячі у сфері ШІ, такі як Деміс Хассабіс (Google DeepMind), Сем Альтман (OpenAI), Даріо Амодеї (Anthropic) та Мустафа Сулейман (Microsoft AI), а також низка провідних науковців.
Вони закликають Конгрес США зобов’язати всіх постачальників синтетичної ДНК та РНК проводити обов’язковий скринінг клієнтів та їх замовлень на наявність небезпечних патогенів. На даний момент у США діють лише рекомендації для установ із федеральним фінансуванням, а загальний ринок спирається на добровільний аудит у межах Міжнародного консорціуму із синтезу генів. У Сенаті вже розглядається двопартійний законопроєкт, який має запровадити таку обов’язкову перевірку на законодавчому рівні.
Необхідність багаторівневого захисту
Експерти з біобезпеки наголошують, що контроль лише на етапі друку ДНК не є панацеєю, оскільки фільтри автоматичних систем захисту недосконалі. Вони підкреслюють, що ШІ-лабораторії повинні впроваджувати власні внутрішні обмеження. Моделі мають бути спроєктовані так, щоб блокувати будь-які запити користувачів, пов’язані з розробкою токсинів або патогенів, здатних спровокувати глобальну пандемію.
Можливі наслідки та вплив на глобальну безпеку
Запровадження суворішого контролю за синтезом ДНК може мати значний вплив на глобальну безпеку. Такі заходи можуть допомогти запобігти використанню біотехнологій зловмисниками, які прагнуть створити нові форми біологічної зброї. Це, у свою чергу, зменшить ризики виникнення нових пандемій, які можуть мати катастрофічні наслідки для людства.
Проте, важливо враховувати можливі обмеження для наукових досліджень та інновацій, які можуть виникнути внаслідок занадто жорстких обмежень. Тому необхідно знайти баланс між безпекою та розвитком науки, щоб забезпечити безпечне і відповідальне використання новітніх технологій.
Загалом, звернення до Конгресу США та ініціативи щодо законодавчого регулювання синтезу ДНК є важливим кроком у забезпеченні глобальної безпеки. Це також сигналізує про необхідність міжнародного співробітництва у вирішенні проблем, пов’язаних з розвитком штучного інтелекту та біотехнологій.
Джерело: https://www.rbc.ua/rus/news/shi-mozhe-prishvidshiti-stvorennya-biologichnoyi-1780582479.html