Вчені попередили про здатність генеративного ШІ вигадувати неіснуючі біологічні відкриття

Генеративний штучний інтелект відкриває широкі можливості для біологічних досліджень, проте несе із собою принципово новий клас наукових ризиків. Про це попереджає обчислювальний біолог Томас Бюргер з університету Гренобль-Альпи у Франції. У статті, опублікованій у журналі Pat­terns, він розглянув десять потенційних напрямів застосування генеративного ШІ в біології та оцінив пов’язані з кожним із них загрози.

Генеративні системи здатні «галюцинувати» — видавати правдоподібну, але хибну інформацію. У біологічних дослідженнях це може означати появу переконливого молекулярного патерну або висновку, який виглядає науково обґрунтованим, але не відображає жодних реальних біологічних процесів. Наслідки можуть бути цілком відчутними: дослідники ризикують відмовитися від перспективного кандидата на ліки, витратити ресурси на розробку неефективного лікування або сприйняти вигаданий механізм захворювання за справжнє наукове відкриття.

Бюргер наголошує, що рівень небезпеки суттєво залежить від того, як саме використовується результат роботи ШІ. Якщо він слугує лише відправною гіпотезою, яку потім перевіряють у реальному експерименті, ризик залишається відносно керованим. Так, пошук потенційних ліків або білків є одним із менш небезпечних сценаріїв: модель швидко оцінює величезну кількість кандидатів і виокремлює невелику групу для лабораторних випробувань, а остаточне слово все одно залишається за реальним дослідом.

Набагато серйозніша ситуація виникає тоді, коли синтетичні дані, згенеровані ШІ, починають замінювати реальні експериментальні вимірювання. У такому разі галюцинація перестає бути помилковим прогнозом і стає частиною доказової бази. ШІ може непомітно спотворити сигнал у складному обчислювальному процесі — настільки тонко, що дослідники не помітять підміни, але достатньо, щоб змінити кінцевий науковий висновок. Особливо гострою ця проблема є в оміксних дослідженнях, які генерують колосальні масиви даних про гени, білки та інші молекули.

Реальний приклад подібної проблеми вже зафіксований у роботі з AlphaFold 3. У статті в журналі Nature за 2024 рік розробники моделі визнали, що вона здатна генерувати «галюциновані структури» в невпорядкованих ділянках білків, хоча низькі показники впевненості системи можуть сигналізувати дослідникам про можливу помилку.

Можливий і протилежний сценарій: ШІ настільки спотворює реальні дані, що вчені просто не помічають справжнього ефекту. Це означає ризик пропустити докази ефективності певного лікування й відмовитися від терапії, яка насправді могла б працювати. Водночас Бюргер припускає, що галюцинації ШІ теоретично можуть призводити й до справжніх відкриттів — подібно до випадкових помилок у лабораторних експериментах, які іноді давали несподівані результати. Проте в обох випадках будь-який висновок має пройти незалежну перевірку.

Головний урок, який формулює дослідник, простий: навіть найвражаючий результат, запропонований штучним інтелектом, не можна вважати науковим відкриттям, доки він не підтверджений реальним експериментом. Для біології це особливо критично, адже найменше спотворення даних на одному з етапів складного обчислювального процесу здатне змінити кінцеву інтерпретацію й завести дослідників у хибному напрямку.