Ілон Маск, очільник компанії xAI, визнав слушність критики щодо того, що його чат-бот Grok не використовує важливе джерело для свого розвитку — реакцію користувачів на контент, створений штучним інтелектом.

Це зауваження пролунало від одного з учасників жвавої дискусії, що розгорнулася після виступу Річарда Саттона, відомого теоретика в галузі штучного інтелекту.

Передісторія дискусії

Обмін думками розпочався після публікації Річарда Саттона, лауреата престижної премії Тьюринга 2024 року. Цю нагороду він розділив з Ендрю Барто за розробку фундаментальних принципів навчання з підкріпленням. Цей метод дозволяє програмам вдосконалюватися шляхом експериментів: за кожну успішну дію алгоритм отримує віртуальну винагороду, поступово опановуючи найефективніші стратегії.

Саттон обіймає посаду професора комп’ютерних наук в Університеті Альберти та співпрацює з канадським інститутом ШІ Amii.

У своєму зверненні він висловив суперечливу думку: сучасний генеративний ШІ, що навчається на статичних наборах даних, не здатен здійснювати справжні наукові відкриття. Його аргументація базується на таких твердженнях:

• Програма не може усвідомити, наскільки вдалим був її результат у конкретний момент.
• Відсутність такого усвідомлення позбавляє її можливості вибирати найкращі рішення.

До обговорення долучився Гійом Верден, засновник стартапу Extropic, відомий у мережі під псевдонімом Beff Jezos. Він перевів теоретичні міркування Саттона у практичну площину, зачепивши інтереси Маска. Верден припустив: якщо Саттон має рацію, то Grok міг би стати ідеальним інструментом для створення вірусного контенту. Користувачі соціальних мереж відточують навички написання текстів саме через спроби та помилки, де показником успіху є відгук аудиторії. Ілон Маск має доступ до величезних обсягів таких даних, але існує значна перешкода: Grok створює тексти, проте інформація про те, які з них стали популярними, не повертається до системи для подальшого навчання.

Маск підтвердив наявність недоліку

У відповідь на аргументи Вердена Ілон Маск зазначив: «Good point» («Справедливо»).

Це визнання глави xAI фактично виявило слабке місце його продукту — саме те, на яке вказував Саттон. Платформа X має унікальну перевагу: вона в реальному часі фіксує, які публікації привертають увагу, а які залишаються непоміченими. Однак слова Вердена підтверджують, що ці цінні дані поки що не використовуються для вдосконалення Grok. Наразі цикл розірваний: нейромережа генерує контент, але не отримує зворотного зв’язку щодо його реальної ефективності.

Реакцію Маска можна розглядати як анонс майбутніх змін у стратегії розробки. Замикання цього циклу — впровадження врахування реакцій користувачів у процес навчання — дозволило б реалізувати той самий підхід, за який Саттон отримав премію Тьюринга. Для Grok, який тісно інтегрований із соціальною мережею з мільярдами щоденних взаємодій, цей шлях до самовдосконалення може виявитися значно коротшим, ніж для конкурентів, що не мають власних платформ для збору живого відгуку.

Порада від Business News:

Ця новина є важливою для всіх, хто цікавиться розвитком штучного інтелекту та потенціалом новітніх технологій. Розуміння того, як Ілон Маск планує покращувати свого чат-бота Grok, використовуючи зворотний зв’язок від користувачів платформи X, допоможе краще оцінити майбутні можливості ШІ-інструментів та їхній вплив на створення контенту й комунікацію.

Джерело новини: cryptocurrency.tech