## Чи створить ШІ “останню людину”: амбітні дослідження китайських вчених

(Джерело зображення: Jason marz via Getty Images)

• Facebook
• X
• Reddit
• Pinterest
• Flipboard

Поділіться статтею 0 Обговорення **Приєднайтеся до дискусії** Додайте нас до улюблених джерел у Google

Науковці з Китаю досліджують можливості розробки “останнього ШІ, створеного людиною” — потужної системи штучного інтелекту, здатної до самовдосконалення та створення наступних версій себе.

У своїй новій праці дослідники аналізують, як методи рекурсивного самовдосконалення (RSI) можуть допомогти подолати зростаючі фінансові та обчислювальні витрати на розробку дедалі досконаліших моделей ШІ.

Що таке рекурсивне самовдосконалення (RSI)?

RSI — це концепція, згідно з якою майбутні моделі ШІ зможуть самостійно керувати своїм навчанням та розвитком, використовуючи отримані знання для вдосконалення наступних ітерацій.

Такий рекурсивний зворотний зв’язок потенційно дозволить системам ШІ створювати нові, потужніші покоління моделей з мінімальним втручанням людини.

Дослідження, опубліковане 10 вересня в архіві препринтів arXiv, ще не пройшло рецензування. Воно пропонує систему класифікації ШІ за їхніми можливостями самовдосконалення — від рівня 1 (найнижчий) до рівня 5 (найвищий).

На нижчих рівнях розробка переважно контролюється людьми. З просуванням за шкалою ШІ стають дедалі здатнішими визначати власні недоліки та шляхи їх усунення, зрештою набуваючи здатності до “мета-вдосконалень” — покращення самого процесу власного вдосконалення.

Чи є самовдосконалений ШІ “нісенітницею”?

Чи зможе ШІ досягти такого рівня стійкого самовдосконалення, залишається відкритим питанням. Однак попередні експерименти демонстрували більш обмежені форми RSI.

Так, на початку цього року система ШІ A-Evolve-Training отримала завдання покращити продуктивність великої мовної моделі (LLM) з 30 мільярдами параметрів.

Протягом чотирьох ітерацій A-Evolve-Training незначно підвищила показники LLM, тестуючи різні методи навчання та використовуючи результати для коригування підходів у подальших експериментах.

Професор Пітер Бенлі, фахівець з цифрової біології в Університетському коледжі Лондона, висловив сумніви щодо того, чи можуть такі експерименти стати реалістичним шляхом до RSI.

“Ідея про те, що якийсь ШІ чарівним чином почне самостійно генерувати кращі та кращі ШІ, — це нісенітниця”, — зазначив Бенлі у своєму електронному листі для Live Science.

Бенлі наголосив, що системи комп’ютерів, здатні до самовдосконалення, існують уже десятиліттями. Еволюційні обчислення та навчання з підкріпленням, наприклад, базуються на принципі вдосконалення продуктивності систем з часом у відповідь на зворотний зв’язок.

Чи справді ШІ може самовдосконалюватися? Деякі експерти ставляться скептично.

(Джерело зображення: Mina De La O/Getty Images)

За його словами, значно складнішим завданням є розробка систем ШІ, здатних самостійно проводити дослідження, необхідні для створення потужніших наступників, не кажучи вже про подолання залежності від людської експертизи та фізичної обчислювальної інфраструктури.

“Ви не можете “рекурсивно самовдосконалюватися”, якщо не можете одночасно покращувати власне навчання, своє апаратне забезпечення та ретельно тестувати його в реальних умовах”, — додав Бенлі.

Виклик справжнього RSI

Автори дослідження визнають ці труднощі. Розробка систем, здатних до RSI, може потребувати величезних інвестицій у обчислювальні потужності, а також людського нагляду для забезпечення значущості наступних удосконалень. Усе це стає фактично надлишковим, якщо ресурси, необхідні для розробки та тестування подальших моделей ШІ, перевищують будь-які переваги, які вони пропонують, зауважили автори.

Ексклюзивно для Live Science Pro

• Ми навряд чи пробудимо злого цифрового бога — ШІ, скоріше, призведе до великого розчарування
• Новий інструмент ШІ від Google DeepMind обіцяє нову еру в генетичних дослідженнях, але експерти застерігають від надмірної довіри до його прогнозів
• OpenAI стверджує, що ми увійшли в еру AGI — чи справді GPT-6 Astra продемонстрував загальний інтелект?

Науковцям також потрібен надійний спосіб визначення, чи справді система ШІ стає більш здатною з кожною ітерацією, а не просто використовує слабкі місця в тестах для вимірювання своїх можливостей. Це відома проблема в розробці ШІ, коли моделі можуть досягати вищих результатів у тестах, експлуатуючи методи оцінки або вибираючи лише сприятливі результати.

Кейла Бломквіст, дослідниця ШІ з Оксфордського університету та співзасновниця Oxford China Policy Lab, зазначила, що, хоча стаття не надає практичного плану дій для RSI, вона може допомогти розробникам і політикам зрозуміти технічні виклики та ризики безпеки, пов’язані зі зростаючою автономією систем ШІ.

Вона також поставила під сумнів, чи існуватиме чіткий момент, коли ШІ стане повністю незалежним від людської розробки. “У статті описується поступова передача відповідальності, а не єдиний момент, тому, можливо, ніколи не буде очевидної “останньої” моделі, створеної людьми”, — додала Бломквіст.

Допоможіть нам покращити Live Science Pro: Ми постійно працюємо над вдосконаленням нашого контенту. Залиште нам відгук про Pro тут.

ТЕМАТИКА

Порада від Business News:

Ця новина надає цінну інформацію про передові дослідження у сфері штучного інтелекту, зокрема, про концепцію рекурсивного самовдосконалення. Розуміння цих розробок допоможе вам краще орієнтуватися в майбутньому технологій та оцінювати потенційні наслідки створення все більш автономних систем ШІ, що є важливим для будь-якого фахівця в IT-сфері.

Оригінал статті: www.livescience.com