Користувач:2b9hxw/Fawkes (програмне забезпечення)

Fawkes — це безкоштовне програмне забезпечення для маскування зображень облич, створене лабораторією SAND Чиказького університету. ^[1] Доступне як самостійно виконуваний файл. ^[2]

За допомогою штучного інтелекту Fawkes створює малі зміни в зображеннях облич аби захистити їх від систем розпізнавання та зіставлення облич. ^[3] Мета Fawkes — забезпечити конфіденційність користувачів від систем збору та обробки великих даних. Станом на травень 2022 року Fawkes v1.0 завантажили понад 840 000 разів. ^[4]

Історія

Fawkes була названа на честь вигаданого головного героя з фільму та коміксу V for Vendetta, натхненного історичною постаттю Гая Фокса. ^[5] Ідея Fawkes була вперше представлена на конференції USENIX Security у серпні 2020 року, де була схвалена та незабаром випущена. Найновіша версія, доступна для завантаження, Fawkes v1.01, вийшла у світ в травні 2022 року і більше не оновлювалася. ^[4] Команду засновників очолюють Емілі Венгер і Шон Шан, докторанти Чиказького університету. Додаткова підтримка від Цзяюнь Чжан і Хуейїн Лі, а також викладачів Бен Чжао та Хізер Чжен сприяли створенню програмного забезпечення. ^[6] Команда вважає, що основним джерелом натхнення для створення Fawkes є збір даних без згоди, зокрема такими компаніями як Clearview AI. ^[7]

Спосіб роботи

Метод, який використовує Fawkes, є прикладом суперницького машинного навчання. А саме, Fawkes застосовує спрямовану атаку з отруєнням даних. Це може бути як атака на закриту, так і відкриту систему.

Fawkes модифікує вхідне зображення обличчя $x$ таким чином, щоб його риси $\Phi (x)$ , згенеровані деякою локальною системою розпізнавання облич, були схожими на риси зображення обличчя іншої, обраної Fawkes людини $T$ . Припускається, що локальна та реальна системи розпізнавань можуть бути різними, а також що $T$ може не існувати у тренувальній вибірці останньої.

Більш формально, якщо

$x$ — вхідне зображення обличчя;
$x_{T}$ — зображення обличчя людини $T$ ;
$\delta (x,x_{T})$ — маска зображення $x$ на основі $x_{T}$ ;
$x+\delta (x,x_{T})$ — замасковане зображення $x$ ;
$\Phi$ — виокремлювач ознак системи розпізнавання облич;
$\Phi (x)$ — вектор ознак деякого зображення $x$ .

То найкраще маскування $\delta (x,x_{T})$ можна знайти як:

$\max _{\delta }{\text{Dist}}(\Phi (x),\Phi (x+\delta (x,x_{T})))$ , ${\text{PercepDist}}(\delta (x,x_{T}))<\rho$ ,

де ${\text{PercepDist}}$ - це об'єктивна міра перцептивної схожості двох зображень (у даному випадку це DSSIM).

Окрім цього, аби досягнути високого рівня узагальнення до різних систем розпізнавання облич, розробники використовують суперницько навчені моделі в якості локальних.

Зрештою, розробники Fawkes вказують, що навіть у випадку, коли в мережі Інтернет існують зображення певного обличчя, які не були замаскованими, можливо провести атаку Сивілли, додавши замасковані зображення. Це може заплутати систему розпізнавання та призвести до помилкової класифікації.

Застосування

Fawkes можна використовувати для зображень та застосунків щоденного використання. Проте оцінки його ефективності є змішаними: у оригінальному дослідженні Fawkes показав стовідсоткову успішність, проте голова Clearview AI заявляв про його неефективність. ^[3]^[8]

Окрім цього, існує подібне до Fawkes програмне забезпечення для маскування облич під назвою LowKey. LowKey також змінює зображення на візуальному рівні, проте ці зміни значно помітніші порівняно з Fawkes. ^[2]

Джерела

↑ James Vinvent (4 August 2020). Cloak your photos with this AI privacy tool to fool facial recognition. The Verge. Процитовано 18 May 2021.
↑ ^а ^б Ledford, B 2021, An Assessment of Image-Cloaking Techniques Against Automated Face Recognition for Biometric Privacy, Masters Thesis, Florida Institute of Technology, Melbourne Florida, viewed 27 July 27 2022, https://repository.lib.fit.edu/handle/11141/3478.
↑ ^а ^б Shan, Shawn; Wenger, Emily (22 червня 2020). Fawkes: Protecting Privacy against Unauthorized Deep Learning Models. arXiv:2002.08327 [cs.CR].
↑ ^а ^б Fawkes. sandlab.cs.uchicago.edu. Процитовано 15 жовтня 2024. Помилка цитування: Некоректний тег <ref>; назва «:3» визначена кілька разів з різним вмістом
↑ Grad, Peter; Xplore, Tech. Image cloaking tool thwarts facial recognition programs. techxplore.com (англ.). Процитовано 28 липня 2022.
↑ UChicago CS Researchers Create New Protection Against Facial Recognition. Department of Computer Science (амер.). Процитовано 28 липня 2022.
↑ Shan, Shawn; Wenger, Emily (22 червня 2020). Fawkes: Protecting Privacy against Unauthorized Deep Learning Models. arXiv:2002.08327 [cs.CR].
↑ Hill, Kashmir (3 серпня 2020). This Tool Could Protect Your Photos From Facial Recognition. The New York Times (амер.). ISSN 0362-4331. Процитовано 28 липня 2022.

[[Категорія:Машинне навчання]] [[Категорія:Кібербезпека]]

[1] James Vinvent (4 August 2020). Cloak your photos with this AI privacy tool to fool facial recognition. The Verge. Процитовано 18 May 2021.

[:1-2] а ^б Ledford, B 2021, An Assessment of Image-Cloaking Techniques Against Automated Face Recognition for Biometric Privacy, Masters Thesis, Florida Institute of Technology, Melbourne Florida, viewed 27 July 27 2022, https://repository.lib.fit.edu/handle/11141/3478.

[:0-3] а ^б Shan, Shawn; Wenger, Emily (22 червня 2020). Fawkes: Protecting Privacy against Unauthorized Deep Learning Models. arXiv:2002.08327 [cs.CR].

[:3-4] а ^б Fawkes. sandlab.cs.uchicago.edu. Процитовано 15 жовтня 2024. Помилка цитування: Некоректний тег <ref>; назва «:3» визначена кілька разів з різним вмістом

[:2-5] Grad, Peter; Xplore, Tech. Image cloaking tool thwarts facial recognition programs. techxplore.com (англ.). Процитовано 28 липня 2022.

[6] UChicago CS Researchers Create New Protection Against Facial Recognition. Department of Computer Science (амер.). Процитовано 28 липня 2022.

[7] Shan, Shawn; Wenger, Emily (22 червня 2020). Fawkes: Protecting Privacy against Unauthorized Deep Learning Models. arXiv:2002.08327 [cs.CR].

[8] Hill, Kashmir (3 серпня 2020). This Tool Could Protect Your Photos From Facial Recognition. The New York Times (амер.). ISSN 0362-4331. Процитовано 28 липня 2022.

[1]

[2]

[3]

[4]

[5]

[6]

[7]

[8]