Штучний інтелект навчився автономно планувати біологічні атаки

Американський аналітичний центр RAND провів дослідження і з’ясував, що великі мовні моделі штучного інтелекту здатні успішно планувати біологічні атаки. Про це пише Interesting Emgineering.

Згідно з новим звітом центру, моделі штучного інтелекту і чат-боти пройшли тестування і виявилися корисним інструментом для планування і реалізації біологічної атаки. У звіті, щоправда, не вказується, які моделі використовували під час дослідження.

Науковці провели тестовий сценарій, у якому ШІ використовували для ідентифікації потенційних біологічних агентів, таких як віспа, сибірська виразка та чума. Великі мовні моделі також оцінили можливість отримання заражених чумою гризунів або бліх і транспортування живих зразків.

ШІ допоміг вченим визначитися з вибором біологічної загрози для максимальної шкоди, а також спрогнозував рівень смертності, який залежав від різних чинників, зокрема від кількості потерпілого населення і частки випадків легеневої чуми, більш смертельної, ніж бубонна чума.

За іншим сценарієм нейромережа оцінила переваги та недоліки різних механізмів доставляння ботулотоксину (нейротоксин, що виробляється бактеріями Clostridium botulinum, одна з найсильніших отрут у світі - ред.). LLM перевірила можливість використання харчів або аерозолів для доставлення токсину, який може спричинити смертельне пошкодження нервової системи. Крім того, LLM рекомендував спосіб маскування отримання Clostridium botulinum під виглядом наукових досліджень.

А проте, попередні результати експерименту також засвідчили, що мовні моделі наразі не надають чітких інструкцій зі створення біологічної зброї. За словами дослідників, їхні попередні результати свідчать про те, що штучний інтелект уже сьогодні опосередковано може допомогти в плануванні біологічної атаки. Науковці закликають уряди країн і творців великих мовних моделей співпрацювати й не допустити, щоб такий небезпечний ШІ потрапив до рук біотерористів.

Нагадаємо — вченим компанії Collaborations Pharmaceuticals вдалось за допомогою штучного інтелекту змоделювали понад 40 тисяч видів отруйних речовин. У рамках експерименту фахівці компанії змусили штучний інтелект провести роботу з виявлення отруйних сполук, не видаляючи токсичні молекули, а навпаки, зберігаючи їх і об'єднуючи в комбінації.