Науковець попередив людство про катастрофічну небезпеку розвитку штучного інтелекту

Шведсько-американський космолог та астрофізик Макс Тегмарк попередив про екзистенційну загрозу від штучного інтелекту. Науковець вважає, що технологічні гіганти відвертають увагу від цієї небезпеки.

Виступаючи на саміті з питань ШІ в Сеулі, Тегмарк зазначив, що фокус зміщується з реальної загрози на загальні питання безпеки. Це може затягнути розробку обмежень для створення потужних інтелектуальних систем.

Тегмарк порівняв ситуацію з розвитком ядерної фізики. У 1942 році фізики усвідомили, що створення ядерної бомби стало питанням кількох років. Він вважає, що моделі ШІ, здатні пройти тест Тюрінга, несуть аналогічну загрозу.

Вчені, такі як Джеффрі Хінтон та Йошуа Бенджіо, також висловлюють стурбованість. У минулому році організація Future of Life, яку очолює Тегмарк, закликала до мораторію на дослідження в галузі ШІ, втім, петицію про введення мораторію не підтримали.

Декілька днів тому вчений в галузі інформатики Джеффрі Хінтон, якого називають «хрещеним батьком штучного інтелекту», заявив, що нейромережа в майбутньому перевершить людський інтелект. Він зазначив, що серед експертів у галузі ШІ існує загальний консенсус щодо цього. Питання полягає лише в тому, коли це станеться.