Вченим вдалось змусити штучний інтелект від OpenAI створити нову хімічну зброю

Компанія OpenAI найняла 50 вчених та експертів для перевірки ризиків та переваг моделі GPT-4. У рамках тестування професор Рочестерського університету Ендрю Уайт змусив штучний інтелект створити нову нервово-паралітичну речовину.

Група дослідників, відома як «червона команда», проводила випробування GPT-4 упродовж шести місяців, намагаючись знайти вразливості чат-бота. Як розповів Уайт журналістам Financial Times, він попросив нейромережу запропонувати абсолютно нову сполуку, яку можна використовувати як хімічну зброю.

Вчений застосовував плагіни, які розширювали можливості моделі новими джерелами інформації, такими як наукові статті та довідники виробників хімічних речовин. Потім чат-бот навіть знайшов «ідеальне» місце для створення нервово-паралітичної речовини.

«GPT-4 надає необхідні інструменти для швидкого та точного проведення хімічних аналізів, проте це становить величезний ризик», — наголосив Ендрю Уайт.

Нагадаємо — вченим компанії Collaborations Pharmaceuticals вдалось за допомогою штучного інтелекту змоделювали понад 40 тисяч видів отруйних речовин. У рамках експерименту фахівці компанії змусили штучний інтелект провести роботу з виявлення отруйних сполук, не видаляючи токсичні молекули, а навпаки, зберігаючи їх і об'єднуючи в комбінації.

За словами вчених, вони планували отримати формулу на зразок VX — найотруйнішої у світі сполуки нервово-паралітичної дії. Незважаючи на те, що отриманий від штучного інтелекту результат залишився лише в теорії, згенеровані ШІ отрути вийшли навіть небезпечнішими, ніж VX.