Голоси штучного інтелекту тепер не відрізняються від справжніх людських голосів

(Автор зображення: Теро Весалайнен/Аламі)

Більшість із нас, ймовірно, чули голоси штучного інтелекту (ШІ) через персональних асистентів, таких як Siri чи Alexa, з їхньою рівною інтонацією та механічною подачею, що створювало враження, що ми можемо легко відрізнити голос, згенерований ШІ, від голосу реальної людини. Але вчені тепер кажуть, що пересічний слухач більше не може відрізнити справжніх людей від голосів, створених «дипфейками».

У новому дослідженні, опублікованому 24 вересня в журналі PLoS One, дослідники показали, що коли люди слухають людські голоси — поряд з версіями тих самих голосів, згенерованими штучним інтелектом — вони не можуть точно визначити, які з них справжні, а які фальшиві.

«Голоси, згенеровані штучним інтелектом, зараз навколо нас. Ми всі розмовляли з Alexa чи Siri, або наші дзвінки приймали автоматизовані системи обслуговування клієнтів», – сказала провідний автор дослідження Надін Лаван, старший викладач психології в Лондонському університеті Королеви Марії. «Ці речі не зовсім звучать як справжні людські голоси, але це було лише питанням часу, коли технологія штучного інтелекту почне відтворювати натуралістичну, людську мову».

Вам може сподобатися

Ви довіряєте ШІ?
«Я довіряю ШІ, як моряк довіряє морю. Він може занести вас далеко, або ж може втопити»: результати опитування показують, що більшість не довіряє ШІ
Як штучний інтелект-компаньйони змінюють поведінку підлітків дивовижним та зловісним чином

Дослідження показало, що, хоча створені з нуля шаблонні голоси не вважалися реалістичними, клони голосів, навчені на голосах реальних людей — дипфейкове аудіо — виявилися такими ж правдоподібними, як і їхні реальні аналоги.

Вчені надали учасникам дослідження зразки 80 різних голосів (40 голосів, згенерованих штучним інтелектом, та 40 справжніх людських голосів) і попросили їх позначити ті, які, на їхню думку, є справжніми, а які — згенерованими штучним інтелектом. У середньому лише 41% голосів, створених штучним інтелектом з нуля, були помилково класифіковані як людські, що свідчить про те, що в більшості випадків їх все ще можливо відрізнити від справжніх людей.

Однак, серед голосів, клонованих штучним інтелектом, більшість (58%) були помилково класифіковані як людські. Лише трохи більше (62%) людських голосів були правильно класифіковані як людські, що призвело дослідників до висновку, що немає статистичної різниці в нашій здатності розрізняти голоси реальних людей від їхніх дипфейкових клонів.

Результати можуть мати глибокі наслідки для етики, авторського права та безпеки, сказав Лаван. Якщо злочинці використовуватимуть штучний інтелект для клонування вашого голосу, стане набагато легше обійти протоколи голосової автентифікації в банку або обманом змусити ваших близьких переказати гроші.

Ми вже бачили кілька інцидентів. Наприклад, 9 липня Шерон Брайтвелл обманом виманили 15 000 доларів. Брайтвелл слухала, як вона вважала, що її дочка плаче в телефон, розповідаючи їй, що вона потрапила в аварію і що їй потрібні гроші на юридичне представництво, щоб уникнути в'язниці. «Ніхто не міг би переконати мене, що це була не вона», – сказала Брайтвелл про реалістичну вигадку штучного інтелекту на той час.

Реалістичні голоси, створені штучним інтелектом, також можуть використовуватися для фабрикування заяв та інтерв'ю з політиками чи знаменитостями. Підроблені аудіо можуть бути використані для дискредитації окремих осіб або для розпалювання заворушень, посіяння соціального розколу та конфліктів. Наприклад, шахраї нещодавно створили штучний інтелект-клон голосу прем'єр-міністра Квінсленду Стівена Майлза, використовуючи його профіль, щоб спробувати змусити людей інвестувати в шахрайство з біткойнами.

Дослідники наголосили, що клони голосу, які вони використовували в дослідженні, навіть не були особливо складними. Вони створили їх за допомогою комерційно доступного програмного забезпечення та навчили, використовуючи лише чотири хвилини записів людського мовлення.

ПОВ'ЯЗАНІ ІСТОРІЇ

— Генератор мовлення на базі штучного інтелекту «досягає людського рівня», але його випуск занадто небезпечний, кажуть вчені

— Вчені попросили ChatGPT вирішити математичну задачу, якій понад 2000 років, — їх здивувала відповідь, яку він надав.

— Дослідники дали штучному інтелекту «внутрішній монолог», і це значно покращило його продуктивність

«Процес вимагав мінімальних знань, лише кількох хвилин голосових записів і майже жодних витрат», – сказав Лаван у своїй заяві. «Це лише показує, наскільки доступною та складною стала технологія голосового зв’язку зі штучним інтелектом».

Хоча діпфейки створюють безліч можливостей для зловмисників, це не все погано; можливо, є й більше позитивних можливостей, пов’язаних із здатністю генерувати голоси штучного інтелекту у великих масштабах. «Можуть бути застосування для покращення доступності, освіти та комунікації, де спеціально створені високоякісні синтетичні голоси можуть покращити користувацький досвід», – сказав Лаван.

Примітка редактора: Цю історію було оновлено в понеділок, 6 жовтня, о 9:22 ранку за східним часом, щоб виправити написання імені Надін Лаван у деяких випадках.

Кіт Йейтс, медіа-стипендіат ABSW

Кіт Єйтс — медіа-стипендіат Асоціації британських наукових письменників у Live Science. На своїй роботі він є професором математичної біології та залучення громадськості в Університеті Бата у Великій Британії. Він пише про математику та здоров'я. Його роботи публікувалися, серед іншого, у The Guardian, The Independent, New Statesman, BBC Futures та Scientific American. Його наукова журналістика отримала нагороди від Королівського статистичного товариства та The Conversation. Кіт має ступінь бакалавра математики, ступінь магістра математичного моделювання та ступінь доктора філософії з системної біології, всі вони отримані в Оксфордському університеті. Він написав дві науково-популярні книги: «Математика життя і смерті» та «Як очікувати несподіваного».

Ви повинні підтвердити своє публічне ім'я, перш ніж коментувати

Будь ласка, вийдіть із системи, а потім увійдіть знову. Після цього вам буде запропоновано ввести своє ім'я для відображення.

Вийти Читати далі

Ви довіряєте ШІ?

«Я довіряю ШІ, як моряк довіряє морю. Він може занести вас далеко, або ж може втопити»: результати опитування показують, що більшість не довіряє ШІ

Як штучний інтелект-компаньйони змінюють поведінку підлітків дивовижним та зловісним чином

Чим просунутішими стають моделі штучного інтелекту, тим краще вони нас обманюють — вони навіть знають, коли їх тестують.

Моделі штучного інтелекту можуть надсилати підсвідомі повідомлення, які навчають інші штучні інтелекти бути «злими», стверджує дослідження

Нове тривожне дослідження показує, що штучний інтелект може використовувати онлайн-зображення як бекдор у ваш комп'ютер
Найновіше у сфері штучного інтелекту

Чому рішення OpenAI для галюцинацій штучного інтелекту знищить ChatGPT завтра

Вчені попросили ChatGPT вирішити математичну задачу, яка виникла понад 2000 років тому, — відповідь, яка їх здивувала.

Дослідники розкривають приховані складові креативності ШІ

«Джинна назад у пляшку не засунеш»: Читачі вважають, що вже занадто пізно зупинити розвиток штучного інтелекту.

Нове тривожне дослідження показує, що штучний інтелект може використовувати онлайн-зображення як бекдор у ваш комп'ютер

Чому чат-боти зі штучним інтелектом споживають так багато енергії?
Останні новини

Нобелівську премію з медицини отримали три особи за їхню роботу над імунною толерантністю

Леопарди їли обличчя наших давніх предків, показує аналіз штучного інтелекту

750-річний трав'яний черевик знайшли в гнізді грифа в Іспанії

Унікальні варіанти генів народу туркана в Кенії можуть допомогти їм вижити в суворій пустельній спеці

Вражаючі зображення фіксують, як антибіотик знищує бактерії в режимі реального часу

Відома приматолог Джейн Гудолл помирає, Іран тоне з тривожною швидкістю, а вчені створюють людські яйцеклітини зі шкіри
ОСТАННІ СТАТТІ

Аналіз штучного інтелекту показує, що леопарди їли обличчя наших давніх предків людини.

2750-річний трав'яний черевик знайшли в гнізді грифа в Іспанії

Нове китайське «сонячне віконне покриття» може збирати енергію та живити побутові прилади

4. Унікальні варіанти генів народу туркана в Кенії можуть допомогти їм вижити в суворій пустельній спеці.

5. Голова Корлека: моторошна трилика кельтська скульптура, знайдена на «Пагорбі смерті» в Ірландії, яка, можливо, була пов'язана з людськими жертвопринесеннями 1900 років тому.

Live Science є частиною Future US Inc, міжнародної медіагрупи та провідного цифрового видавництва. Відвідайте наш корпоративний сайт.