Вчені довели, що штучний інтелект навчився маніпулювати людьми

Дослідники з Кембридзького університету застерігають про появу нового ринку, де штучний інтелект аналізує та передбачає людські рішення, продаючи ці дані компаніям. Зростання популярності генеративного ШІ, чат-ботів та інших антропоморфних асистентів відкриває можливості для маніпуляцій на основі поведінкових і психологічних даних, зібраних через повсякденну взаємодію, інформує Techsplore.

Дослідження свідчать, що такі ШІ-інструменти можуть прогнозувати дії користувачів, зокрема покупки, політичні вподобання чи особисті плани, формуючи їхні рішення через довіру та персоналізоване спілкування. Ці системи вже отримують підтримку великих компаній, як-от OpenAI, Meta, Nvidia та Apple, які розробляють платформи для виявлення та прогнозування намірів користувачів.

Науковці звертають увагу на ризики впровадження таких технологій без належного регулювання. Так звана «економіка намірів», створена ШІ, може підірвати основи вільних виборів, незалежної преси та справедливої конкуренції, створюючи перевагу для компаній, які монетизують людські прагнення та рішення. Вони зазначають, що це логічний розвиток економіки уваги, але з ще більш глибокими наслідками.

Розробки великих технологічних компаній вже демонструють ознаки цієї тенденції. Наприклад, нова платформа Apple «App Intents» дозволяє прогнозувати дії користувачів, а Meta й OpenAI активно досліджують способи інтеграції Ш для аналізу людських бажань і намірів. З огляду на ці технологічні досягнення, дослідники наголошують на важливості підвищення обізнаності суспільства та регулювання таких інструментів, щоб уникнути маніпуляцій та зловживань.

За словами вчених, використання подібних технологій не є однозначно негативним. Але для забезпечення етичного впровадження потрібен відкритий діалог та усвідомлення суспільством потенційних загроз.