Вчені поставили під сумнів пошук позаземного життя за допомогою штучного інтелекту

Один із ключових інструментів астробіології — детектор життя на основі штучного інтелекту, здатний розпізнати живе без знань про його біохімію, — виявився вразливим до маніпуляцій. Дослідники з Університету штату Мічиган перевірили подібну систему на цифрових організмах із платформи Avi­da і отримали невтішні результати.

Спочатку все виглядало переконливо. Класифікатор навчили відрізняти «живі» цифрові програми від випадкових послідовностей символів — і на тестовій вибірці він досяг точності 99,97%, припустившись лише двох помилок із понад семи тисяч прикладів.

Потім почалася справжня перевірка. Простий алгоритм брав довільний рядок із дев’яти символів і почергово замінював букви, залишаючи лише ті зміни, після яких нейромережа ставала впевненішою, що бачить живий організм. Жодного доступу до реальних критеріїв життя у нього не було — лише оцінки самого класифікатора. До 150‑ї ітерації всі 1 560 запусків досягли стовідсоткової впевненості моделі, хоча згенеровані послідовності насправді не були здатні до саморепродукції.

Підроблені ланцюжки не були випадковим шумом — вони групувалися навколо кількох типових шаблонів, зовні схожих на живі послідовності, але з порушеннями в ключових місцях. Модель засвоїла грубу «схему живого коду» і не помітила, що її можна відтворити, не відтворюючи головного — здатності до розмноження.

Проблема виявилася не в конкретній архітектурі. Дослідники протестували згорткові нейромережі, трансформери, метод опорних векторів, випадковий ліс, XGBoost і логістичну регресію — жоден підхід не встояв, хоча випадковий ліс показав дещо більшу стійкість. Жадібний пошук, стохастичний пошук і еволюційні алгоритми також відтворювали ефект, підтверджуючи: вразливість закладена не в деталях реалізації, а у фундаментальній властивості методів, що навчаються на емпіричному розподілі даних.

Для астробіології це тривожний сигнал. Простір можливих послідовностей у платформі Avi­da сягає 5,43 трильйона варіантів, але частка справжніх репликаторів становить лише близько семи мільярдних від нього. Будь-який зразок поза межами навчальних даних — а позаземні зразки майже напевно такими й будуть — різко підвищує ризик отримати хибно-позитивний сигнал із високою впевненістю.

Автори визнають обмеження: у роботі використовувалися молекулярні послідовності, а не реальні мас-спектри, тому пряме перенесення результатів на інші методи аналізу потребує окремої перевірки. Проте якщо ненадійні детектори потраплять на борт космічних місій, це може підірвати довіру до астробіологічних програм загалом — ще до того, як науковці зможуть відрізнити справжнє відкриття від артефакту.