Google створили конституцію роботів

Команда робототехніки Deep­Mind представила три нових досягнення, які допоможуть роботам ухвалювати рішення швидше і краще. Одне з них включає в себе систему збору навчальних даних за допомогою “Конституції робота”, яка гарантуватиме безпеку дій робота для людини.

Система збору даних Google, AutoRT, може використовувати модель візуальної мови (VLM) і модель розширеної мови (LLM), щоб зрозуміти навколишнє середовище, адаптуватися до незнайомих налаштувань і ухвалити рішення про відповідні завдання.

“Конституція робота”, натхненна “Трьома законами робототехніки” Айзека Азімова, описується як набір “підказок, орієнтованих на безпеку”, які приписують LLM уникати вибору завдань, у яких беруть участь люди, тварини, гострі предмети і навіть електроприлади.

З метою додаткової безпеки Deep­Mind запрограмувала роботів на автоматичну зупинку, якщо тиск на рухомі шарніри перевищує певний поріг. Також компанія запропонувала задіяти фізичний аварійний вимикач, який люди-оператори можуть використовувати в екстрених ситуаціях.

За сім місяців Google розгорнула парк із 53 роботів AutoRT у чотирьох різних офісних будівлях і провела понад 77 тисяч випробувань. Деякими роботами управляли віддалено люди-оператори, тоді як інші діяли або на основі сценарію, або повністю автономно з використанням моделі навчання штучного інтелекту Robot­ic Trans­former (RT‑2). Роботи були оснащені тільки камерою, маніпулятором і мобільною базою.

“Для кожного робота система використовує VLM, щоб зрозуміти навколишнє середовище та об’єкти в межах видимості. Потім LLM пропонує список творчих завдань, які може виконати робот, наприклад “Покладіть закуску на стільницю”, і відіграє роль особи, яка приймає рішення, обираючи підходяще завдання”, — зазначили в компанії.