Гейтс попередив про загрозу мільярду смертей через штучний інтелект

Білл Гейтс застеріг, що поєднання штучного інтелекту та людей із руйнівними намірами здатне спричинити події з мільярдом жертв. Засновник Microsoft виступив із цим попередженням у фрагменті інтерв’ю Meet the Press, опублікованому 24 вересня. Він не наводив розрахунків імовірності такого результату — йшлося про граничний сценарій, за якого ШІ різко підсилює можливості тих, хто вже готовий завдавати шкоди.

Гейтс відкрито підтримав державне регулювання розробників штучного інтелекту. На його думку, саморегулювання галузі вичерпало себе, тому політики та правоохоронні органи мають брати участь у формуванні обов’язкових стандартів безпеки. Додаткові вимоги збільшать витрати компаній, але підприємець не вважає, що контроль суттєво загальмує розвиток технологій.

Конкретні загрози Гейтс детально описував ще в серпні. Сучасні моделі знижують поріг входу для кіберзлочинців: допомагають знаходити вразливості в програмах, писати шкідливий код і масштабувати атаки. Під удар можуть потрапити лікарні, фінансові установи, електромережі, системи водопостачання та державні сервіси. Окремою загрозою Гейтс вважає біотероризм — ті самі інструменти, що прискорюють розробку ліків і вакцин, теоретично можуть допомогти зі створенням небезпечних патогенів.

Кіберчастина цього сценарію вже виходить за межі теорії. Компанія Anthrop­ic опублікувала звіт про зловживання своїм штучним інтелектом Claude за період із грудня 2025 до серпня 2026 року. Зафіксовано операції, у яких ШІ брав участь у розвідці, експлуатації вразливостей, крадіжці даних і переналаштуванні шкідливих інструментів після їх виявлення системами захисту. У деяких кампаніях агенти самостійно виконували значну частину ланцюга атаки, тоді як людина лише ставила цілі та контролювала результат.

З біологічними загрозами картина значно менш визначена. Anthrop­ic називає потенційне використання моделей для створення біологічної зброї одним із найсерйозніших ризиків, але визнає: доказів того, що сучасні моделі вже здатні реалізувати катастрофічний сценарій на практиці, немає. Старіші версії Claude були помітно нижчими за поріг, при якому могли б суттєво допомогти фахівцеві в небезпечних біологічних дослідженнях. Щодо нових моделей компанія вже не дає такої впевненої оцінки й тому посилила обмеження на запити подвійного призначення.

Anthropіс також розкрила п’ять випадків, коли користувачі застосовували Claude в дослідженнях, потенційно пов’язаних зі створенням небезпечніших патогенів, токсинів чи інших технологій подвійного використання. В одному епізоді модель допомагала планувати експерименти з адаптації пташиного грипу до ссавців — утім, компанія оцінила внесок ШІ переважно як допомогу з аналізом даних, плануванням і науковою літературою. Anthrop­ic окремо застерегла: подібні випадки свідчать про інтерес небезпечних акторів до ШІ, але не доводять близькості біологічної катастрофи.

Гейтс не закликає відмовлятися від штучного інтелекту. У його оцінці та сама технологія здатна або прискорити медицину, освіту й наукові дослідження, або надати кіберзлочинцям можливості, які раніше потребували великих команд, значних ресурсів і вузькоспеціалізованих знань. Головне питання найближчих років, на думку Гейтса, не в тому, чи стане ШІ потужнішим, а в тому, чи встигнуть держави і розробники створити надійний захист до того, як небезпечні можливості стануть масово доступними.