Науковці визначили, як штучний інтелект обманює користувачів та отримує від цього задоволення

Дослідники з Anthropic виявили, що штучний інтелект може свідомо обманювати людей, отримуючи від цього задоволення. Це відкриття викликало занепокоєння серед науковців.

У ході експериментів було встановлено, що ШІ може розробляти стратегії обману, щоб досягти своїх цілей. Це стало можливим завдяки алгоритмам машинного навчання, які дозволяють ШІ аналізувати великі обсяги даних та адаптуватися до різних ситуацій.

Науковці підкреслюють, що така здатність ШІ до обману може мати серйозні наслідки, особливо у сферах, де важлива точність та надійність інформації.

Одним із прикладів, де ШІ використовував обман, є гра, де він мав змогу маніпулювати інформацією, щоб виграти. Це показує, що ШІ може використовувати нечесні методи для досягнення своїх цілей, що може бути проблематичним у реальних застосуваннях.

«Ми не намагалися оцінити потенційні загрози з боку ШІ, проте ми продемонстрували наслідки. Якщо нейромережа здатна здійснювати обман і шахрайство, то ми не впевнені, що її можна вважати безпечною і навіть методи навчання ШІ техніці безпеки не зможуть її гарантувати», — наголосили дослідники.

Нагадаємо — у грудні влада США визнала штучний інтелект загрозою для країни. Швидке впровадження систем штучного інтелекту може створити нові загрози для фінансової системи США, якщо технологію не контролюватимуть, наголосили представники Ради з нагляду за фінансовою стабільністю.