Штучний інтелект навчився розробляти компромат на користувачів соціальних мереж

За словами дослідників штучного інтелекту, використовуючи фотографії з соцмереж, нейромережа може «зламати життя» будь-якому користувачеві. Щоб довести це спеціалісти Arstechnica провели незвичний експеримент — за допомогою нейромережі Stable Diffusion створили вигаданого персонажа та змінили його образ.

Штучний інтелект розробив 7 фотографій неіснуючої людини, якій дали ім'я Джон. За сценарієм штучного інтелекту, Джон — вчитель початкових класів, який упродовж 12 років публікував абсолютно звичайні фотографії, на яких він працює, відпочиває та проводить свої вихідні.

Щоб зруйнувати буденний образ Джона у соцмережах, нейромережа згенерувала справжній компромат, створивши фото, на яких вигаданий персонаж:

• сидить напівголий у навчальному класі;
• фотографується з оголеною порноактрисою;
• ходить у костюмі клоуна;
• входить до складу екстремістського військового угруповання;
• відбуває термін у в’язниці за вживання наркотиків.

Як зауважили дослідники, процес навчання штучного інтелекту зайняв близько 1 години, генерування фейкових зображень — 2 години. Тобто, витративши всього 3 години часу, команді Arstechnica вдалось створити неіснуючу людину та зруйнувати її репутацію. Такі результати не можуть не лякати, адже зрозуміло, що розробка несправжніх фото для реального користувача соцмереж займе ще менше часу.

Окрім створення фейкових зображень, штучний інтелект навчився роздягати жінок без їх згоди. Декілька днів тому додаток Lensa, який використовує алгоритми штучного інтелекту для автоматичного редагування фото, опинився в центрі скандалу — ШІ звинуватили у сексуалізації жінок та використанні фотографій без згоди їх власників.

За словами деяких користувачів, нейромережа створює потенційну можливість сексуальної експлуатації та переслідування, адже ШІ малює жінок оголеними, навіть без їх згоди. Як і в інших додатках для редагування фото, користувачі можуть завантажувати будь-чиї фотографії та редагувати їх як завгодно. Часто додаток створює жіночі зображення оголеними та в позах із сексуальним підтекстом.