Ілон Маск прогнозує еру синтетичних даних для розвитку штучного інтелекту

Ілон Маск заявив, що розвиток штучного інтелекту вступає у нову фазу, де ключову роль відіграватимуть синтетичні дані — інформація, згенерована самим ШІ. Він наголосив, що можливості для навчання моделей на даних з реального світу майже вичерпано, інформує Tech Crunch.

На заході з головою ради директорів Stagwell, Марком Пенном, Маск сказав: «Ми вже вичерпали практично всю сукупність знань для навчання ШІ. Це сталося минулого року». Він додав, що синтетичні дані дозволять ШІ створювати нові навчальні матеріали, оцінювати їх та вдосконалюватися через процес самообучення.

Підхід до використання синтетичних даних вже застосовують провідні ШІ-компанії. У 2024 році стартап Anthropic використав їх для навчання своєї моделі Claude 3.5 Sonnet. Компанія Meta вдосконалила нейромережу Llama 3.1, а OpenAI інтегрувала їх у навчання своєї «розумної» моделі o1.

Цей підхід є відповіддю на дефіцит високоякісних даних, який став викликом для ШІ-індустрії. Маск вважає, що саме синтетична інформація дозволить масштабувати можливості ШІ та наблизити появу суперінтелекту.

Раніше ми інформували, що співзасновник OpenAI Ілля Суцкевер заявив, що для подальшого навчання штучного інтелекту компанія зіштовхується з нестачею даних. Він підкреслив, що сучасні моделі ШІ, такі як GPT-4, уже використовують величезні обсяги текстової інформації, доступної в інтернеті, і доступ до нових релевантних даних стає дедалі обмеженішим.

За словами фахівця, проблема не лише в кількості, а й в якості даних. «Більшість відкритих ресурсів уже використані для навчання, а створення нових, більш специфічних наборів даних вимагає великих зусиль і ресурсів», — зазначив топменеджер.