Yeniləmə: Apple serverin ikinci təftişindən bəhs etdi və peşəkar kompüter görmə şirkəti bunun aşağıdakı “İkinci yoxlamanın necə işləyə biləcəyi” bölməsində təsvir oluna biləcəyinin mümkünlüyünü qeyd etdi.
Tərtibatçılar onun hissələrini tərsinə çevirdikdən sonra, Apple CSAM sisteminin erkən versiyası günahsız bir görüntüyü qeyd etmək üçün effektiv şəkildə aldadıldı.Bununla belə, Apple bunun real həyatda baş verməməsi üçün əlavə təminatlara malik olduğunu bildirdi.
Ən son inkişaf NeuralHash alqoritminin açıq mənbə tərtibatçısı GitHub saytında dərc edildikdən sonra baş verdi, hər kəs onunla təcrübə edə bilər...
Bütün CSAM sistemləri itkin düşmüş və istismar edilən Uşaqlar üçün Milli Mərkəz (NCMEC) kimi təşkilatlardan məlum uşaq cinsi istismarı materiallarının məlumat bazasını idxal etməklə işləyir.Verilənlər bazası şəkillərdən hash və ya rəqəmsal barmaq izləri şəklində təqdim olunur.
Əksər texnologiya nəhəngləri buludda yüklənmiş fotoşəkilləri skan etsə də, Apple saxlanılan fotoşəkilin hash dəyərini yaratmaq üçün müştərinin iPhone-da NeuralHash alqoritmindən istifadə edir və sonra onu CSAM hash dəyərinin endirilmiş surəti ilə müqayisə edir.
Dünən bir tərtibatçı Apple-ın alqoritmini tərsinə çevirdiyini və kodu GitHub-a buraxdığını iddia etdi - bu iddia Apple tərəfindən effektiv şəkildə təsdiqləndi.
GitHib-in buraxılmasından bir neçə saat sonra tədqiqatçılar alqoritmdən uğurla istifadə edərək qəsdən yanlış müsbət – eyni hash dəyərini yaradan iki tamamilə fərqli şəkil yaratdılar.Buna toqquşma deyilir.
Bu cür sistemlər üçün həmişə toqquşma riski var, çünki hash əlbəttə ki, təsvirin çox sadələşdirilmiş təsviridir, lakin kiminsə təsviri bu qədər tez yarada bilməsi təəccüblüdür.
Burada qəsdən toqquşma sadəcə konsepsiyanın sübutudur.Tərtibatçıların real vaxt sistemində yanlış pozitivlərin yaradılmasını tələb edən CSAM hash verilənlər bazasına girişi yoxdur, lakin bu, toqquşma hücumlarının prinsipcə nisbətən asan olduğunu sübut edir.
Apple effektiv şəkildə alqoritmin öz sisteminin əsasını təşkil etdiyini təsdiqlədi, lakin ana plataya bildirdi ki, bu, son versiya deyil.Şirkət onu heç vaxt məxfi saxlamaq niyyətində olmadığını da bildirib.
Apple bir e-poçtda Motherboard-a bildirdi ki, GitHub-da istifadəçi tərəfindən təhlil edilən versiya iCloud Photo CSAM aşkarlanması üçün istifadə edilən son versiya deyil, ümumi versiyadır.Apple alqoritmi də açıqladığını söylədi.
"NeuralHash alqoritmi [...] imzalanmış əməliyyat sistemi kodunun bir hissəsidir [və] təhlükəsizlik tədqiqatçıları onun davranışının təsvirə uyğun olduğunu yoxlaya bilərlər" deyə bir Apple sənədi yazdı.
Şirkət daha iki addımın olduğunu söylədi: öz serverində ikincil (gizli) uyğunluq sistemini işə salmaq və əl ilə nəzərdən keçirmək.
Apple həmçinin bildirdi ki, istifadəçilər 30 matçlıq həddi keçdikdən sonra Apple serverlərində işləyən ikinci ictimai olmayan alqoritm nəticələri yoxlayacaq.
"Bu müstəqil hash, səhv NeuralHash-ın CSAM-a aid olmayan şəkillərin rəqib müdaxiləsi səbəbindən cihazdakı şifrələnmiş CSAM verilənlər bazasına uyğun gəlməsi və uyğunluq həddini aşması ehtimalını rədd etmək üçün seçildi."
Roboflow-dan Brad Dwyer, toqquşma hücumu üçün konsepsiyanın sübutu kimi yerləşdirilən iki təsviri asanlıqla ayırd etmək üçün bir yol tapdı.
Mənə maraqlıdır ki, bu şəkillər OpenAI-in oxşar, lakin fərqli sinir xüsusiyyətləri çıxaran CLIP-də necə görünür.CLIP NeuralHash-a bənzər işləyir;o, şəkil çəkir və təsvirin məzmununa uyğun gələn xüsusiyyət vektorları toplusunu yaratmaq üçün neyron şəbəkəsindən istifadə edir.
Lakin OpenAI şəbəkəsi fərqlidir.Şəkillər və mətn arasında xəritə yarada bilən ümumi bir modeldir.Bu o deməkdir ki, biz ondan insan tərəfindən başa düşülən görüntü məlumatını çıxarmaq üçün istifadə edə bilərik.
Yuxarıdakı iki toqquşma şəklini CLIP vasitəsilə araşdırdım ki, onun da aldanıb-aldanmadığını gördüm.Qısa cavab: yox.Bu o deməkdir ki, Apple aşkar edilmiş CSAM şəkillərinə onların həqiqi və ya saxta olduğunu müəyyən etmək üçün ikinci xüsusiyyət çıxaran şəbəkəni (məsələn, CLIP) tətbiq edə bilməlidir.Eyni anda iki şəbəkəni aldadan şəkillər yaratmaq daha çətindir.
Nəhayət, əvvəllər qeyd edildiyi kimi, şəkillər CSAM olduğunu təsdiqləmək üçün əl ilə nəzərdən keçirilir.
Bir təhlükəsizlik tədqiqatçısı dedi ki, yeganə real risk Apple-ı qıcıqlandırmaq istəyən hər kəsin insan rəyçilərinə yalan pozitiv məlumat verə bilməsidir.
“Apple bu sistemi həqiqətən dizayn edib, ona görə də hash funksiyasının məxfi saxlanmasına ehtiyac yoxdur, çünki “CSAM kimi qeyri-CSAM” ilə edə biləcəyiniz yeganə şey Apple-ın cavab qrupunu aradan qaldırmaq üçün filtrlər tətbiq edənə qədər bəzi lazımsız şəkillərlə bezdirməkdir. Analiz Boru kəmərindəki bu zibillər yalan pozitivdir”, – Berkli Kaliforniya Universitetinin Beynəlxalq Kompüter Elmləri İnstitutunun baş elmi işçisi Nikolas Uiver onlayn söhbətdə Motherboard-a bildirib.
Məxfilik müasir dünyada artan narahatlıq doğuran bir məsələdir.Təlimatlarımızda məxfilik, təhlükəsizlik və s. ilə bağlı bütün hesabatlara əməl edin.
Ben Lovejoy İngilis texniki yazıçı və 9to5Mac üçün Aİ redaktorudur.O, daha əhatəli rəylər əldə etmək üçün zamanla Apple məhsulları ilə təcrübəsini araşdıraraq, köşə yazıları və gündəlik məqalələri ilə tanınır.O, romanlar da yazır, iki texniki triller, bir neçə qısametrajlı elmi fantastika filmi və bir rom-kom var!
Göndərmə vaxtı: 20 avqust 2021-ci il