Apple намагалася розробити систему, яка б зупинила поширення матеріалів із насиллям проти дітей на айфонах і в хмарі iCloud. Та коли через цю програму на сполох забили активісти конфіденційності у мережі, компанія відмовилася від неї. Активістів це порадувало. А от ті, хто бореться із насиллям проти дітей, розчаровані.
Forbes Ukraine випустив новий номер журналу. Придбати його з безкоштовною доставкою можна за цим посиланням. У журналі: перший список найкращих роботодавців для ветеранів, список перспективних молодих українців «30 до 30», 40 компаній, які вийшли на іноземні ринки під час війни, історії Марії Берлінської, Всеволода Кожемяки та загалом майже два десятки текстів.
Forbes розглянув близько 100 федеральних справ, у яких детективи шукали інформацію на пристроях і в сервісах Apple, повʼязану з експлуатацією дітей. Ми виявили, що системи компанії використовували для зберігання і передавання тисяч матеріалів із зображенням насилля над дітьми (МЗНД) між 2014-м і 2023-м.
Цікаво те, що Apple у 2021-му оголосила про запровадження інструменту, який мав сканувати файли iCloud на предмет МЗНД. Втім вибір компанії на користь конфіденційності та незадоволення груп, які виступають за приватність у мережі, призвели за відмови від нового ПЗ. Це спричинило звільнення ключових керівників, які активно займалися питанням безпеки й цією програмою:
- Мелісса Маррус Полінскі, директорка з розслідувань і дитячої безпеки;
- Маргарет Річардсон, директорка з довіри й безпеки;
- Джейн Горват, головна директорка з питань конфіденційності;
- Майкл Ебботт, очільник iCloud;
- Абгішек Бговмік, провідний інженер-розробник ПЗ для виявлення МЗНД.
За словами джерел Forbes в Apple, втрата цих працівників залишила «великі прогалини в організації», а питанням захисту дітей займаються хаотично люди у різних командах.
Нині посаду директора конфіденційності та дитячої безпеки займає Ерік Нойєншвандер, який до того займався інженерними розробками компанії. А директором з довіри й безпеки став Майк Торнберрі, який 23 роки займався в компанії продажами та Apple Pay.
Конфіденційність понад усе
Apple давно дотримується переконання у тому, що конфіденційність – це одне з основних прав людини. Компанія неабияк обурила ФБР, коли відмовилася залишити лазівку в системі iOS, яка б дозволяла правоохоронцям обходити систему безпеки і отримувати доступ до даних на айфонах. Apple вважає, що такою лазівкою могли б зловживати уряди і групи впливу.
З того часу компанія навіть посилила шифрування своїх пристроїв і ПЗ. Втім в Apple все ж є можливість сканувати файли користувачів, яку вона використовує для відновлення даних.
Така політика, на думку борців за безпеку дітей, має величезний недолік: Apple по суті залишається сліпою до шкідливих, незаконних матеріалів, які зберігаються на її сервісах. Конкуренти компанії, від Google, Meta і Microsoft до Dropbox, зайняли проактивну позицію у боротьбі із сексуальними «хижаками» на своїх платформах. За словами правоохоронців і спеціалістів з технологій, щороку ці компанії надають мільйони, а іноді десятки мільйонів, кібернаведень у Національний центр загублених та експлуатованих дітей (НЦЗЕД). Центр переглядає і систематизує їх перш ніж відправляти детективам у справах насильства над дітьми.
«Їх ніколи не цікавив захист дітей на їхній платформі, – каже Джим Коул, який 20 років працював у підрозділі з розслідувань питань національної безпеки, Forbes. – Вони незворушні у своєму захисті приватності, а закон не вимагає від них шукати МЗНД».
Apple відмовилася відповідати на питання Forbes, але журнал отримав листа від Нойєншвандера, директора з питань конфіденційності та дитячої безпеки. Він написав, що компанія відмовилася від плану сканувати свої системи на предмет МЗНД, бо «його неможливо втілити так, щоб не ставити під загрозу безпеку і конфіденційність наших користувачів». Він також наголосив на тому, що Apple пропонує інші безпекові опції для боротьби з експлуатацією дітей.
Масове сканування файлів користувачів компанії «відкриє двері для масового спостереження» за людьми, попередив Нойєншвандер.
«Як користувач може бути впевнений у тому, що один інструмент для спостереження не використають для іншого виду спостереження, наприклад, за політичною активністю чи для релігійних переслідувань? Інструменти для масового спостереження за населенням мають широкі негативні наслідки для свободи слова і демократії в цілому», – пише він.
Він додав, що недоліки такого сканування можуть відчути батьки, «коли вони просто виставлять звичайні фото своїх дітей».
Проблема iCloud
У Apple є можливість сканувати iCloud за допомогою PhotoDNA, одного із найпопулярніших інструментів для боротьби із поширенням МЗНД-файлів у мережі. Це ПЗ створили у 2009-му Microsoft та Дартмутський коледж і воно перетворює зображення на унікальні цифрові коди під назвою хеші. Потім їх порівнюють у базі даних відомих хешів МЗНД. Збіг по базі дає привід для подальшого розслідування.
PhotoDNA настільки широко використовується, що він фактично став стандартом індустрії – Facebook і Google використовують його понад 10 років. Втім не для Apple.
Як і всі технокомпанії, Apple за законом зобовʼязана підкорятися судовим ордерам і повідомляти про МЗНД федеральну владу через «гарячу» кіберлінію CyberTipline, яку влаштував НЦЗЕД. Минулого року Facebook та Instagram разом подали 26 млн таких повідомлень, Google – 2 млн, TikTok – майже 300 000, а Apple – 234. А за рік до того Apple взагалі повідомила про 160 випадків.
Так, Apple не соцмережа, тому таке порівняння навряд чи справедливе. Втім месенджер WhatsApp, який пропонує наскрізне шифрування, сканує нешифрований вміст (профіль і фото у групах) на предмет МЗНД. У 2022-му він надав НЦЗЕД понад 1 млн кібернаведень, Microsoft – 110 000, Dropbox – майже 46 000, а Synchronoss – понад 30 000.
Дехто може сказати, що справа у дублікатах (одне зображення було поширене у багатьох постах), проте критики впевнені, що ця статистика відображає небажання Apple робити більше, ніж передбачено законом для боротьби із незаконними матеріалами. Навіть 4chan, далеко не приклад зразкової модерації, робить в рази більше кібернаведень.
Forbes наводить приклад двох показових справ. Техасець отримав понад 17 років вʼязниці за поширення МЗНД після того, як на його акаунті iCloud знайшли майже 600 незаконних відео і зображень. А вчитель молодшої школи визнав себе винним у зберіганні МЗНД на його iCloud-акаунті, під час рейду знайшли 81 відео і 158 зображень насилля над дітьми.
В обох випадках Apple надала дані лише коли виписали ордер на обшук. У випадку із техасцем кібернаведення зробив месенджер Kik, популярний серед хижаків. Лише у двох зі 100 справ, які розглянув Forbes, Apple самостійно повідомила про МЗНД, які вона виявила в електронних листах.
Компанія чудово усвідомлює проблему МЗНД-файлів на своїй платформі. У повідомленні колезі у 2020-му Ерік Фрідман, головний директор Apple у боротьбі із шахрайством, написав, що Facebook та інші технокомпанії зосереджені на довірі і безпеці, але у конфіденційності вони «відстій». Але також він додав, що через те, що в Apple на першому місці конфіденційність, компанія стали «найкращою платформою для поширення дитячої порнографії».
Конфіденційність проти безпеки
У серпні 2021-го Apple оголосила про власний інструмент під назвою NeuralHash, який шукатиме МЗНД, але при цьому захищатиме конфіденційність. Програма виявлятиме такі матеріали під час завантаження на iCloud, але не зберігатиме інформацію про неповʼязані файли. Ті, хто переймається захистом дітей, були в захопленні. Інші ж розкритикували програму як величезну загрозу приватності.
Правозахисні групи із захисту конфіденційності назвали програму лазівкою для збільшення нагляду і цензури по всьому світу. Активісти почали заявляти, що подібні інструменти часто неточні і їх не дають перевіряти. Мередіт Віттакер, президентка компанії Signal, яка пропонує однойменний зашифрований застосунок для повідомлень, вказує на дослідження, яке виявило вразливості у NeuralHash, що можуть призвести до витоку інформації про неповʼязані із МЗНД файли чи бути використані для того, щоб підставити когось.
Реакція громадськості на NeuralHash була така радикальна, що восени 2021-го Apple припинив впровадження програми, а у грудні 2022-го взагалі від неї відмовився. Багато з тих, хто працював над інструментом, були розчаровані таким рішенням. Один колишній співробітник компанії назвав NeuralHash «чудовою програмою», а інший і взагалі «революційною». Останній вважає, що помилкою Apple була погана презентація інструменту і недостатньо детальний опис його роботи.
«Кожну технологію можна використати як для добра, так і для зла. Саме тому кожній технокомпанії потрібно підтримувати рівновагу між безпекою і конфіденційністю, – каже Джулія Кордуа, президентка Thorn, неприбуткова організація боротьби проти МЗНД, яку спонсорує актор Ештон Кутчер. – Якщо зосереджуватися на одному та ігнорувати інше, вашою технологією можуть зловживати».
Не допомагає і те, що закриття NeuralHash погіршило і так не найкращі відносини між Apple і детективами у справах експлуатації дітей. Джон Рус, колишній детектив у справах експлуатації дітей в Австралії, каже, що компанія все більше «віддаляється» від цього питання. «Вони не йдуть на контакт із нами…не ведуть діалог, – розповідає він. – І це неабияк розчаровує, адже вона один із найбільших провайдерів технологічних послуг у світі».
Та захисники конфіденційності схвалюють рішення Apple відмовитися від NeuralHash. «З боку Apple правильно протистояти групам тиску, які наполягали на відстеженні приватних документів і спілкування від імені урядів, – сказав засновник і гендиректор Epic Games Тім Свіні. – Подібна програма сканування завжди буде неприпустимим порушенням прав користувачів».
