Суддя здивований: як позивач використав ШІ-підказку для перемоги у справі
Катерина Левицька Автор новин видання "Межа". В медіа з 2015 року, пишу про софт, IT-бізнес та кіно. 14 серпня, 13:19 0
Штучний інтелект у суді: позивач намагався обдурити систему непомітними інструкціями
Суддя зі штату Коннектикут наклав стягнення на громадянина, який спробував непомітно вбудувати інструкції для штучного інтелекту (ШІ) у судові документи. Текст, невидимий для людського ока, мав на меті скерувати будь-яку систему ШІ, що аналізує документи, на користь позивача. Про це повідомляє видання Reuters.
Суддя Волтер Спейдер-молодший виявив у матеріалах справи, поданих позивачем Меттью Елліотом, текст білого кольору, надрукований мікроскопічним шрифтом. Цей прихований елемент, невидимий для людини, міг бути розпізнаний програмним забезпеченням, призначеним для обробки текстових документів.
Імовірно, Елліот застосував техніку “промпт-ін’єкції”. Це метод, за якого спеціально сконструйований текст змушує моделі ШІ ігнорувати первинні правила та виконувати нові команди. У цьому конкретному випадку, за словами судді, інструкції мали на меті спонукати інструменти ШІ видавати результати, сприятливі для позивача, та інтерпретувати попереднє рішення судового клерка як помилку.
Цікаво, що навіть після попередження з боку судді, у подальших судових документах від Елліота були виявлені подібні приховані інструкції для ШІ, хоча вони й не стосувалися прямо промпт-ін’єкцій.
Чоловік, який самостійно представляє свої інтереси у справі, стверджує, що додав прихований текст для “перевірки процесу розгляду документів судом”, а слова, включені до наступних документів, були “жартом”. Проте суддя Спейдер зазначив, що загалом позитивно ставиться до застосування ШІ та навіть сам користується подібними інструментами. Однак, спроба позивача додати набір інструкцій “свідчить про зловмисні наміри”.
Суддя також додав, що судова система Коннектикуту не використовує інструменти ШІ для перевірки або ухвалення рішень щодо поданих документів. Отже, спроба позивача навряд чи могла б призвести до бажаного результату. В результаті, Меттью Елліоту заборонили подавати документи в електронному вигляді, зобов’язавши його приносити паперові версії безпосередньо до канцелярії суду.
Адвокат юридичної фірми Garfunkel Wild, яка спеціалізується на медичному праві та представляє відповідача New York Bariatric Group, на момент публікації не надав коментарів щодо цієї справи. Сам позов включає звинувачення, пов’язані з наданням медичної документації, дискримінацією та іншими претензіями.
Порада від Business News:
Ця новина підкреслює важливість доброчесності у взаємодії з судовими органами та потенційні ризики, пов’язані з непрозорим використанням технологій, зокрема ШІ, у юридичних процесах. Вона нагадує, що будь-які спроби маніпуляції, навіть за допомогою передових інструментів, можуть мати серйозні наслідки. Для громадян це сигнал про необхідність дотримання встановлених правил і процедур, а для правників – про відповідальність при впровадженні новітніх технологій у свою практику.
Подробиці можна знайти на сайті: mezha.ua