Для вашингтонських інсайдерів бачити і чути більше не означає вірити, завдяки низці нещодавніх інцидентів, пов’язаних з фейковими повідомленнями, що видають себе за високопосадовців адміністрації президента Дональда Трампа.
Цифрові фейки наступають і на корпоративну Америку, оскільки злочинні угруповання і хакери, пов’язані з супротивниками, включаючи Північну Корею, використовують синтетичне відео та аудіо, щоб видавати себе за керівників компаній і кандидатів на посади нижчого рівня, щоб отримати доступ до критично важливих систем або комерційних секретів.
Завдяки досягненням штучного інтелекту створювати реалістичні фейки стало простіше, ніж будь-коли, що створює проблеми з безпекою для урядів, бізнесу та приватних осіб і робить довіру найціннішою валютою цифрової епохи.
Щоб відповісти на цей виклик, потрібні закони, підвищення цифрової грамотності та технічні рішення, які боротимуться зі штучним інтелектом за допомогою ще більшого штучного інтелекту.
“Як люди, ми надзвичайно вразливі до обману”, – каже Віджай Баласубраманіян, генеральний директор і засновник технологічної компанії Pindrop Security.
Але він вважає, що рішення проблеми глибоких фейків може бути в межах досяжності: “Ми збираємося дати відсіч”.
Президент Дональд Трамп і державний секретар Марко Рубіо слухають під час зустрічі зі спадкоємним принцом Бахрейну Салманом бін Хамадом Аль Халіфою в Овальному кабінеті Білого дому в середу, 16 липня 2025 року, у Вашингтоні.
Депфейки про АІ стають загрозою для національних держав
Цього літа хтось використав штучний інтелект, щоб створити фейковий образ держсекретаря Марко Рубіо, намагаючись зв’язатися з міністрами закордонних справ, сенатором і губернатором США за допомогою текстових повідомлень, голосової пошти та додатку для обміну повідомленнями Signal.
У травні хтось видав себе за керівника апарату Трампа Сьюзі Вайлс.
Інший фейковий Рубіо з’явився в глибокому фейку на початку цього року, заявивши, що хоче відрізати Україні доступ до інтернет-сервісу Starlink Ілона Маска.
Пізніше український уряд спростував цю неправдиву заяву.
Наслідки для національної безпеки величезні: люди, які думають, що вони спілкуються з Рубіо або Вайлзом, наприклад, можуть обговорювати конфіденційну інформацію про дипломатичні переговори або військову стратегію.
“Ви або намагаєтеся витягти секретні дані чи інформацію про конкурентів, або ви хочете отримати доступ до сервера електронної пошти чи іншої чутливої інформації”, – розповів про можливі мотиви Кінні Чан, генеральний директор компанії QiD, що займається кібербезпекою.
Синтетичні медіа також можуть мати на меті змінити поведінку.
Минулого року виборці Демократичної партії в Нью-Гемпширі отримали робот-дзвінок, який закликав їх не голосувати на майбутніх праймеріз у штаті.
Голос у дзвінку підозріло нагадував голос тодішнього президента Джо Байдена, але насправді був створений за допомогою штучного інтелекту.
Здатність штучного інтелекту до обману робить фейки потужною зброєю для іноземних нападок.
І Росія, і Китай використовували дезінформацію та пропаганду, спрямовану на американців, як спосіб підірвати довіру до демократичних альянсів та інститутів.
Стівен Крамер, політичний консультант, який зізнався у відправці фальшивих рободзвінків Байдену, сказав, що хотів донести до американської політичної системи інформацію про небезпеку, яку становлять глибокі дезінформаційні фейки.
Минулого місяця з Крамера були зняті звинувачення у придушенні виборців і видачі себе за кандидата.
“Я зробив те, що зробив, за 500 доларів, – сказав Крамер.
“Ви можете собі уявити, що сталося б, якби китайський уряд наважився на таке?”
Шахраї націлилися на фінансову індустрію
Більша доступність і витонченість програм означає, що “глибокі підробки” все частіше використовуються для корпоративного шпигунства і шахрайства.
“Фінансова індустрія перебуває під прицілом”, – сказала Дженніфер Юбанк, колишня заступниця директора ЦРУ, яка працювала над питаннями кібербезпеки та цифрових загроз.
“Навіть людей, які знають один одного, переконують переказувати величезні суми грошей”.
У контексті корпоративного шпигунства вони можуть використовуватися для того, щоб видавати себе за керівників компаній і просити співробітників передати паролі або номери маршрутів.
Діпфейки також можуть дозволити шахраям подавати заявки на роботу – і навіть влаштовуватися на неї – під вигаданим або фальшивим ім’ям.
Для одних це спосіб отримати доступ до чутливих мереж, викрасти секрети або встановити програмне забезпечення з вимогою викупу.
Інші просто шукають роботу і можуть працювати на кількох схожих посадах у різних компаніях одночасно.
Влада США заявила, що тисячі північнокорейців з навичками в галузі інформаційних технологій були відправлені жити за кордон, використовуючи викрадені особисті дані, щоб отримати роботу в технологічних компаніях у США та інших країнах.
Працівники отримують доступ до мереж компаній, а також зарплату.
У деяких випадках працівники встановлюють програмне забезпечення з вимогою викупу, яке згодом використовується для вимагання ще більших грошей.
Ці схеми принесли північнокорейському уряду мільярди доларів.
Згідно з дослідженням компанії Adaptive Security, що спеціалізується на кібербезпеці, протягом трьох років очікується, що кожна четверта заявка на роботу буде фальшивою.
«Ми вступили в еру, коли будь-хто, хто має ноутбук і доступ до моделі з відкритим кодом, може переконливо видавати себе за реальну особу», — сказав Брайан Лонг, генеральний директор Adaptive. «Тепер мова йде не про вторгнення в системи, а про підрив довіри».
Експерти використовують ШІ для боротьби зі ШІ
Дослідники, експерти з питань державної політики та технологічні компанії зараз вивчають найкращі способи вирішення економічних, політичних та соціальних проблем, пов’язаних з депфейками.
Нові нормативні акти можуть зобов’язати технологічні компанії докладати більше зусиль для виявлення, маркування та потенційного видалення депфейків на своїх платформах. Законодавці також можуть запровадити більш суворі покарання для тих, хто використовує цифрові технології для обману інших — якщо їх вдасться викрити.
Більші інвестиції в цифрову грамотність також можуть підвищити імунітет людей до онлайн-обману, навчивши їх способам виявлення фейкових медіа та уникнення стати жертвою шахраїв.
Найкращим інструментом для викриття ШІ може бути інша програма ШІ, навчена виявляти дрібні недоліки в депфейках, які залишаються непомітними для людини.
Такі системи, як Pindrop, аналізують мільйони даних у мовленні будь-якої людини, щоб швидко виявити невідповідності. Система може використовуватися під час співбесід або інших відеоконференцій, щоб виявити, чи використовує людина, наприклад, програмне забезпечення для клонування голосу.
Подібні програми можуть одного дня стати звичними ділом і працювати у фоновому режимі, коли люди спілкуються з колегами та близькими в Інтернеті. Одного дня дипфейки можуть піти шляхом спаму в електронній пошті, технологічного виклику, який колись загрожував підірвати корисність електронної пошти, сказав Баласубраманія, генеральний директор Pindrop.
«Можна прийняти песимістичну точку зору і сказати, що ми будемо підкорятися дезінформації», — сказав він. «Але цього не станеться».
Джерело: apnews.com/article/artificial-intelligence-deepfake-trump-espionage-hack-scammers-da90ad1e5298a9ce50c997458d6aa610
Також на тему:
