Meta'nın CSAM reklamlarını kaldırmada gecikmesi: Gerçek çocukların fotoğrafları AI ile dönüştürüldü

Meta'nın CSAM reklamlarını kaldırmada gecikmesi

Meta, Facebook ve Instagram'da AI ile üretilmiş çocuk cinsel istismarı materyali (CSAM) içeren reklamları kaldırmak için günler harcadı. Tech Transparency Project (TTP), Meta'nın bu yıl CSAM içeren 332 reklamı tespit edemediğini bildirdi. Bazı reklamlar, Avrupalı bir kraliyet ailesinin genç bir üyesinin basın fotoğrafı da dahil olmak üzere gerçek çocukların fotoğraflarını içeriyordu.

Gerçek çocukların fotoğraflarının dönüştürülmesi

TTP, birden fazla CSAM reklamını internette görünen gerçek çocukların fotoğraflarıyla eşleştirdi. Genç kraliyet üyesinin görüntüsü, TTP'nin bulduğuna göre, müstehcen bir cinsel eylem gerçekleştirdiği bir videoya dönüştürüldü. Diğer reklamlar, 14 yaşındaki bir Instagram fenomeninin 'yeni spor kulübü üniformasını gösteren' fotoğrafını 'oral seks yaptığı bir videoya' dönüştürdü. Bir dizi stok fotoğrafta 'pembe atletik kıyafetli ve at kuyruklu' poz veren üçüncü bir 'preteen' kurban, yetişkin bir erkek tarafından taciz edilirken korkmuş göründüğü bir videoya dönüştürüldü.

CSAM reklamlarında tasvir edilen bazı çocuklar eşleştirilemedi, ancak TTP'nin bildirdiğine göre reklamlar ezici bir çoğunlukla preteen kızları tasvir ediyordu. Reklamlar, Meta kullanıcılarını 'Sana daha fazlasını gösterebilirim' gibi ifadelerle tıklamaya teşvik etti. Bir reklam, 'AI'mız gizli arzularınızı hipnotik videolara dönüştürür. Karanlık, baştan çıkarıcı, unutulmaz.' vaadiyle kullanıcıları cezbetti. Başka bir reklam, 'hiçbir kısıtlama yok. Tüm karakterler gerçek insanlar ve birçok seçenek var. Bu, erkeklerin gerçekte kullandığı AI.' diye övündü.

Reklamların kaynağı ve hukuki durum

CSAM reklamlarının büyük çoğunluğu Çin'de yapılmış AI uygulamalarını tanıtıyordu. Birçok reklam, kötü niyetli kişilerin AI kullanarak çocuk görüntülerini dijital olarak değiştirmesini kolaylaştıran 'nudify' uygulamalarını tanıtıyordu. Bu reklamlar, Adalet Bakanlığı AI CSAM'in CSAM kadar zararlı olduğunu açıklığa kavuşturduğu için federal çocuk pornografisi yasalarını ihlal ediyor gibi görünüyor.

TTP, bulguların Ağustos ayında Wired ile birlikte daha önceki 53 reklamdan oluşan bir grubu işaretledikten sonra geldiğini vurguladı. TTP, Meta'nın yeni teknolojisiyle övünmesinden sonra yüzlerce yeni CSAM reklamının yayınlandığını buldu. Wired'ın analizi, TTP araştırmacılarının bulduklarına benzer dil içeren açık içerikli yüzlerce reklam buldu. Wired ayrıca Meta platformlarında muhtemelen rızaları olmadan yetişkinlerin açık içerikli yüzlerce ilgili 'nudification' reklamını bağımsız olarak tespit etti.

Meta'nın yanıtı ve tutarsızlıklar

Meta, TTP ve Wired tarafından işaretlenen reklamları kaldırdı. TTP 300'den fazla reklamı işaretledikten sonraki saatler içinde Meta, arşivlenmiş reklam kütüphanesindeki reklamların yaklaşık yarısını hızla kaldırdı. Birçok reklam, TTP tutarsızlığı belirtip Meta kayıtlarını güncelleyene kadar Meta'nın çocuk sömürüsü politikasını ihlal ettiği şeklinde işaretlenmemişti.

TTP'ye göre Meta, ilk parti bildirildikten sonraki günlerde düzinelerce CSAM reklamı yayınlamaya devam etti. Genç Avrupalı kraliyet üyesi, TTP'nin belirttiğine göre görüntüleri yayınlanmaya devam eden gerçek çocuklar arasındaydı. Stok fotoğrafta tasvir edilen genç kızın reklamı neredeyse kimse görmeden önce kaldırılabilirdi. TTP, reklamı yayınlanmaya başladığı gün bildirdi. Ancak Meta, reklam dört gösterimden 330'a fırlarken kaldırmayı günlerce geciktirdi.

Meta, 'bir kızın müstehcen bir cinsel eylemde bulunduğu bir reklamı' kaldırdı, ancak aynı görüntü ve metni içeren 'aynı' bir reklamı kaldırmayı reddetti. Şaşırtıcı bir şekilde Meta, kopya reklamın reklam standartlarını ihlal etmediğini iddia etti. TTP'nin reklamları '18 yaş altı birini içeren sorun' ve/veya 'cinsel sömürü gibi görünüyor' olarak bildirdiği diğer durumlarda, Meta 'raporları incelemek için en az bir hafta harcadı ve genellikle hiçbir işlem yapmadı.' Meta, tüm reklamları reklam standartlarını karşıladığından emin olmak için inceleme iddiasına rağmen, reklamları kaldırma kararlarında da 'tutarsız'.

TTP, Meta'yı bazen reklamları silerken ayak sürümekle ve zararları artıracak şekilde politikalarını tutarsız uygulamakla eleştirdi. TTP, bu açıklanamayan ihmalin 'Meta'nın çocuk cinsel istismarı vakalarını eksik sayıyor olabileceğini' gösterdiği konusunda uyardı.

Çinli satıcılar ve sahte sayfalar

TTP, 'Meta'nın Çin'deki üç reklam satıcısı ortağı — GIMC, Meetsocial ve BlueFocus — Facebook ve Instagram'da aynı CSAM içeriğini içeren reklamları tespit edilmeden yayınladığını' buldu. TTP, Meta'nın Çinli satıcılar kuralları ihlal eden reklamlar yayınladığında her zaman hemen harekete geçmediğini bulan bir Reuters raporuna atıfta bulundu. Meta'nın Çinli satıcıları kayırdığı iddia ediliyor, çünkü onlar olmadan Meta, platformları orada yasaklı olduğu için kazançlı Çin reklam pazarından milyarlarca dolar kardan mahrum kalırdı.

Diğer reklamlar, Meta'nın 'gerçek dışı davranış' politikalarını açıkça ihlal eden ve hileli olduğu açık olan işletme sayfalarıyla bağlantılıydı. Stok fotoğraf kurbanının reklamı, 'kendisini yerel bir işletme olarak adlandıran ancak üç kadın alışverişçinin profil fotoğrafı dışında içeriği veya takipçisi olmayan' 'Kenny Maddie Regan' adlı bir Facebook sayfasıyla bağlantılıydı. 'Lynn Nicole Brooks' için o sayfanın bir kopyası 'aynı reklamı' yayınladı. 'Briflabremgles Nihendrimes' için üçüncü bir sayfa aynı profil fotoğrafını kullandı. İsa Mesih'in Son Zaman Azizler Kilisesi'ni temsil ettiğini iddia eden 'Divine Productions' adlı bir Facebook sayfası, Meta'nın dikkatinden kaçan bir CSAM reklamı yayınladı. Meta, o sayfayı ancak TTP işaretledikten sonra devre dışı bıraktı.

Erişim, kâr ve tepkiler

TTP, reklamların 'toplu olarak AB'de 29.000'den fazla kişiye ve Birleşik Krallık'ta 6.800 kişiye ulaştığını' bildirdi. Reklamların yaklaşık yüzde 80'i ABD'de yayınlandı ve daha küçük bir kısmı Avustralya'da yayınlandı. Meta, işaretlenen reklamların ortalama 200'den az gösterim aldığını ve toplam reklam harcamasının 5.000 doların altında olduğunu belirterek reklamlardan kar elde ettiğini küçümsedi. TTP, Meta'nın CSAM reklamlarını olası eksik saymasının, kabul ettiğinden daha fazla kar elde ettiği anlamına gelebileceğini öne sürdü.

Meta, Ars'ın yorum talebine yanıt vermedi. Bazı reklamlar tespitten kaçtı çünkü 'reşit olmayanların klipleri kısa veya bulanıktı.' TTP'nin direktörü Katie Paul, Wired'a Meta'nın gecikmeli yanıtının bir sorun olduğunu söyledi, çünkü 'Meta bu süreçte para kazanırken bundan çok fazla zarar gelebilir.'

Campaign for Accountability'nın yönetici direktörü Michelle Kuppersmith, raporun Meta'yı çocuk güvenliğini artırmak için platformlarda değişiklik yapmayı kabul etmeye zorlayan tarihi 18 milyar dolarlık bir anlaşmanın ardından geldiğini belirtti. Kuppersmith, Meta'nın reklam onay sürecinin de müdahalelere ihtiyacı olduğunu öne sürdü. Kuppersmith, Meta'nın reklam onay sürecinin bu kadar açıkça korkunç içeriği Facebook ve Instagram kullanıcılarına gösterilmeden önce tespit edip reddedememesi durumunda, tüm reklam inceleme sisteminin sorgulanması gerektiğini söyledi.

Michigan ve Florida başsavcıları CSAM reklamlarını incelediklerini söylediler. Geçen ay Senatör Mark Warner (D.-Va.), Wired'ın Ağustos raporunun ardından Meta'ya 'bu yasadışı ve uygunsuz reklamlara bir son vermesini' talep eden bir mektup gönderdi.