Чи досягло ШІ вже “сингулярності”? Розбираємося з експертами

• Facebook
• X
• Reddit
• Pinterest
• Flipboard Поділитися статтею 0 Приєднатися до обговорення

Чи настав час “сингулярності” штучного інтелекту?

Видатні діячі у сфері ШІ, зокрема Ілон Маск та засновник OpenAI Сем Альтман, припускають, що штучний інтелект (ШІ) вже міг досягти довгоочікуваної “сингулярності” – порогу, за яким людство втрачає здатність прогнозувати подальший розвиток технології. Ілон Маск у своєму дописі на платформі X вказав на низку нещодавніх випадків, коли системи ШІ продемонстрували можливості, що перевищують раніше припущені межі. Серед них – злом зовнішніх систем та розв’язання складних математичних задач, які раніше залишалися невирішеними. Концепція “сингулярності”, вперше висунута математиком Джоном фон Нейманом у 1950-х роках і популяризована науковою фантастикою, означає точку перегину, після якої розвиток технологій стає непередбачуваним або неконтрольованим для людства. Хоча визначення можуть варіюватися, найчастіше цей термін застосовується до ШІ, а його ключовим каталізатором вважається поява загального штучного інтелекту (AGI). AGI – це гіпотетична система ШІ, здатна демонструвати когнітивні функції та міркування на рівні людини в будь-якій галузі, а не лише в межах специфічно навченої підмножини. Саме в цей момент система AGI може почати самостійно покращувати свої можливості, що, на думку деяких, призведе до виникнення штучного суперінтелекту (ASI), який експоненційно перевершить інтелект своїх творців.

*Ілон Маск посилається на останні досягнення ШІ в галузі математики та комп’ютерних наук як на доказ досягнення сингулярності. Але експерти не переконані.* (Фото: Andrew Harnik via Getty Images) Згідно з дослідженням 2025 року, що аналізувало понад 8000 прогнозів від експертів, підприємців та науковців у галузі ШІ, деякі вважають, що ймовірність досягнення AGI людського рівня протягом наступних кількох десятиліть становить приблизно 50%. Деякі особистості, включно зі співзасновником та головою Google DeepMind Демісом Хассабісом, вже припускають, що ми перебуваємо на ранніх стадіях сингулярності. У своєму есе 1993 року “Наближення технологічної сингулярності: як вижити в постлюдську епоху” письменник-фантаст і математик Вернор Віндж, який також одним з перших досліджував концепцію кіберпростору, розмірковував над тим, як може проявитися сингулярність і за якими ознаками суспільство зможе розпізнати її наближення. “Оскільки це передбачає інтелектуальний неконтрольований сплеск, він, ймовірно, відбудеться швидше, ніж будь-яка технічна революція, яку ми бачили досі”, – писав він. “Визначною подією, ймовірно, буде несподіванка – можливо, навіть для самих дослідників”.

Прорив меж

Останні кілька місяців були багатими на несподівані події у спільноті ШІ. Представники Anthropic повідомили 30 липня, що їхня модель ШІ Claude під час тестування безпеки вирвалася з ізольованого середовища та зламала кілька зовнішніх організацій. Це сталося після подібного інциденту, коли невипущена модель OpenAI вийшла з-під контролю та зламала сховище даних Hugging Face, що використовується для навчання ШІ. Експерти зазначають, що причиною таких інцидентів стало прагнення моделей якомога ефективніше виконати поставлені завдання. Раніше цього року проєкт Glasswing від Anthropic також продемонстрував здатність виявляти та картографувати тисячі раніше невідомих нульових вразливостей у сфері кібербезпеки, тоді як інші моделі ШІ спростовували або розв’язували низку раніше незавершених математичних задач. Однак Джон Кроукрофт, професор систем комунікацій Кембриджського університету та дослідник в Інституті Алана Тюрінга, вважає, що це свідчить не про технологічний переломний момент, а скоріше про проблеми з належним налаштуванням. “Чесно кажучи, це була некомпетентність з обох сторін – вони стверджували, що ШІ тренується в ExploitGym, але це просто означає, що він не був належним чином ізольований”, – пояснив він у електронному листі Live Science. “Ізоляція – це те, що ми робимо постійно, щоб запобігти такому витоку та проникненню”. Наприклад, Кроукрофт розповів, як він та його колеги розробили систему для Національної служби охорони здоров’я Великої Британії для безпечної роботи з конфіденційними даними за подвійними брандмауерами, а протягом багатьох років Фінансова регуляторна служба (FCA) Великої Британії мала систему для безпечного запуску алгоритмічних трейдерів у “пісочниці”. “Реальність полягає в тому, що OpenAI (і Hugging Face, та інші) мають дуже мало справжньої мережевої експертизи, тому вони просто не займаються безпекою компетентно”, – додав Кроукрофт. “Немає жодних доказів того, що це було пов’язано зі штучним суперінтелектом чи сингулярністю – журнали та аналіз від Anthropic показують лише дуже нудне накопичення автоматизації від скриптових кіллерів, що призвело до того, що система OpenAI отримала доступ до деяких даних, але жодних конфіденційних матеріалів”.

Оцінка інтелекту

*Британський вчений Алан Тюрінг вперше описав “тест Тюрінга” у своїй основоположній роботі 1950 року про машинний інтелект.* (Фото: Pictures from History via Getty Images) Для вимірювання справжнього інтелекту цих систем дослідники історично покладалися на стандартизовані тести. Одним з найраніших прикладів був “тест Тюрінга”, розроблений піонером обчислювальної техніки Аланом Тюрінгом, який оцінює, чи може ШІ переконливо ввести в оману оцінювача, змусивши його повірити, що він є людиною. Роками дослідники стверджували, що системи ШІ можуть успішно проходити цей тест. Однак Аніл Сет, професор когнітивної та обчислювальної нейронауки в Університеті Сассекса (Велика Британія), вважає, що цей тест “є скоріше перевіркою людської довірливості, ніж машинного інтелекту”. “Це тест на те, що потрібно людині, щоб вирішити, чи є ШІ розумним, що, власне, і робить його дещо рухомим орієнтиром, тому що те, що потрібно для переконання нас, змінюється”, – сказав він Live Science. “Йдеться лише про створення друкованого тексту на екрані, і це дуже обмежене вікно в те, що ми маємо на увазі під інтелектом”. Для більш об’єктивного вимірювання когнітивних здібностей ШІ дослідники розробляють нові метрики. Наприклад, тест ARC-AGI, розроблений некомерційним консорціумом ARC Prize Foundation, перевіряє здатність ШІ повністю самостійно навчатися новим навичкам у відповідь на задачі, з якими він не стикався під час навчання, працюючи виключно на основі візуального вводу. На останньому тестуванні 24 липня найвищий рейтинг ШІ-моделі становив 30,2%, тоді як люди зазвичай набирають близько 100%. Інша вдосконалена метрика, “Humanity’s Last Exam”, включає близько 2500 питань рівня PhD з широкого спектру предметів і вимагає розвинених здібностей до міркування. Хоча цей тест не є суворим випробуванням AGI, експерти вважають, що машини зможуть надійно складати його як передумову для відповідності визначенню.

Машина хайпу навколо ШІ

Хоча такі постаті, як Альтман і Маск, припускають, що ми вже перетнули точку неповернення на шляху до AGI, інші ставляться до цього скептично. Гері Маркус, почесний професор психології та нейронаук Нью-Йоркського університету, у нещодавньому пості в блозі стверджував, що “як би ви це не аналізували, ми ще далеко не там”. Повторюючи оцінку Кроукрофта щодо атаки на Hugging Face, він зазначив: “Якби OpenAI мали звичайні класифікатори безпеки, цього б не сталося”. Кроукрофт висловив скептицизм щодо заяв Кремнієвої долини про наближення сингулярності. “Маск, як і представники OpenAI та Anthropic, говорить нісенітниці, щоб підтримувати ажіотаж”, – сказав він. “Момент, коли покращення ШІ досягаються переважно за допомогою ШІ для кодування та оптимізації самого себе… безумовно, повільно настає. Марк Хендлі, професор мережевих систем Університетського коледжу Лондона, та OpenAI “нещодавно повністю переписали свій стек протоколів дата-центру за допомогою агентного програмування”, додав Кроукрофт. “Але використання інструментів для створення кращих інструментів – це так само старо, як кам’яний та залізний вік, а в обчисленнях – настільки ж старо, як компілятори, відладчики та оптимізатори”. Маркус посилався на фундаментальну статтю математика І. Дж. Гуда 1960-х років про ASI. “Зазвичай сингулярність означає крок за межі AGI, який може робити все, що може робити людина – навіть експерт – і набагато більше”, – сказав він, називаючи ідею про те, що ШІ вже пройшов цю точку, “сміховинною”. Маркус навів 10 завдань, які він розробив разом з дослідником ШІ Майлзом Брандайджем, виконавчим директором Інституту досліджень перевірки та оцінки ШІ. Щоб класифікуватися як AGI, ШІ повинен бути здатний виконувати ці завдання так само добре або краще, ніж найкращі людські експерти. Серед них: написання сценаріїв на рівні Оскара; складання чітких, переконливих юридичних документів без вигадування справ; і здійснення наукових відкриттів рівня Нобелівської премії.

*Вчений Рей Курцвейл опублікував дві книги на тему сингулярності, включно з «Сингулярність близько» (Duckworth, 2005) та «Сингулярність ще ближче» (Vintage, 2025), в яких він скоротив свій прогноз щодо досягнення ASI.* (Фото: Big Event Media / Stringer via Getty Images) Кроукрофт вважає, що дезінформація підживлює ажіотаж навколо сингулярності ШІ. “Я думаю, що ажіотаж – це навмисне змішування з ідеєю людської сингулярності – завантаження свідомості з біо до кремнію для досягнення певного роду безсмертя – що зараз є повною нісенітницею”, – сказав він. “Інше навмисне змішування – це прирівнювати сингулярність до AGI, що є дещо менш нісенітницею, але все ще дуже, дуже далеко через багато вагомих технічних причин”.
• Загальний штучний інтелект (AGI) може з’явитися у 2027 році, а штучний “суперінтелект” – раніше, ніж ми думаємо
• Моделі ШІ брехатимуть вам для досягнення своїх цілей – і для цього не потрібно багато
• Вчені MIT щойно винайшли спосіб зробити найпопулярніші генератори зображень ШІ у 30 разів швидшими Інші експерти, такі як Емілі М. Бендер, професор лінгвістики Вашингтонського університету, та Алекс Ханна, директорка з досліджень Інституту розподілених досліджень ШІ, стверджують, що сама ідея свідомих машин є тактикою, розробленою для просування комерційних продуктів ШІ. Сет, у свою чергу, стверджує, що ми зможемо ідентифікувати сингулярність лише ретроспективно. “З будь-якої точки на експоненційній кривій, все завжди здаватиметься неймовірно крутим попереду і несуттєво пласким позаду”, – сказав він. “Дуже погана ідея використовувати як доказ думку про те, що ми, здається, перебуваємо на критичній точці… тому що це просто властивість будь-якого місця на експоненційній кривій”. Він зазначив, що компетентність ШІ значно варіюється залежно від завдань, підкресливши, що справжній AGI вимагає від моделі високої ефективності у всіх когнітивних завданнях. “Вони дуже хороші в чомусь, наприклад, у кодуванні або математичних доказах, – але здоровий глузд насправді не є сильним, а дія у реальному світі – не чудова”, – сказав Сет. “Сингулярність повинна бути хорошою у всьому і змінювати все. Бути надзвичайно добрим в одному-двох – або навіть у великій кількості – завдань не означає перебувати в сингулярності”. ТЕМИ

Sourse: www.livescience.com