Ілон Маск прогнозує еру синтетичних даних для розвитку штучного інтелекту

Ілон Маск заявив, що розвиток штучного інтелекту вступає у нову фазу, де ключову роль відіграватимуть синтетичні дані — інформація, згенерована самим ШІ. Він наголосив, що можливості для навчання моделей на даних з реального світу майже вичерпано, інформує Tech Crunch.

На заході з головою ради директорів Stag­well, Марком Пенном, Маск сказав: “Ми вже вичерпали практично всю сукупність знань для навчання ШІ. Це сталося минулого року”. Він додав, що синтетичні дані дозволять ШІ створювати нові навчальні матеріали, оцінювати їх та вдосконалюватися через процес самообучення.

Підхід до використання синтетичних даних вже застосовують провідні ШІ-компанії. У 2024 році стартап Anthrop­ic використав їх для навчання своєї моделі Claude 3.5 Son­net. Компанія Meta вдосконалила нейромережу Lla­ma 3.1, а Ope­nAI інтегрувала їх у навчання своєї “розумної” моделі o1.

Цей підхід є відповіддю на дефіцит високоякісних даних, який став викликом для ШІ-індустрії. Маск вважає, що саме синтетична інформація дозволить масштабувати можливості ШІ та наблизити появу суперінтелекту.

Раніше ми інформували, що співзасновник Ope­nAI Ілля Суцкевер заявив, що для подальшого навчання штучного інтелекту компанія зіштовхується з нестачею даних. Він підкреслив, що сучасні моделі ШІ, такі як GPT‑4, уже використовують величезні обсяги текстової інформації, доступної в інтернеті, і доступ до нових релевантних даних стає дедалі обмеженішим.

За словами фахівця, проблема не лише в кількості, а й в якості даних. «Більшість відкритих ресурсів уже використані для навчання, а створення нових, більш специфічних наборів даних вимагає великих зусиль і ресурсів», — зазначив топменеджер.