Teknoloji kullanılarak yaratılan porno, birkaç yıl önce bir Reddit kullanıcısının kadın ünlülerin yüzlerini porno oyuncularının omuzlarına yerleştiren klipler paylaşmasıyla internette yayılmaya başladı.
Deepfake'ler, dijital olarak oluşturulmuş veya yapay zeka veya makine öğrenimi ile değiştirilmiş videolar, resimler ve ''derin sahte pornografi'' içeren tehlikeli yazılım
Yapay zeka: sanat yaratmak, sanal soyunma odalarında kıyafet denemek veya reklam kampanyaları tasarlamaya yardımcı olmak için kullanılabilir. Ancak uzmanlar, kolayca erişilebilen araçların karanlık tarafının, öncelikle kadınlara zarar veren bir şeyi daha da kötüleştirebileceğinden korkuyor: rıza dışı ''derin sahte pornografi'' gibi...
Teknoloji kullanılarak yaratılan porno, birkaç yıl önce bir Reddit kullanıcısının kadın ünlülerin yüzlerini porno oyuncularının omuzlarına yerleştiren klipler paylaşmasıyla internette yayılmaya başladı.
O zamandan beri, deepfake içerik oluşturucuları, çevrimiçi etkileyicileri, gazetecileri ve herkese açık bir profile sahip diğerlerini hedef alan benzer videolar ve resimler yaydı. Çok sayıda web sitesinde binlerce video var. Bazıları, kullanıcılara kendi görüntülerini yaratma fırsatı sunuyor,esasen herkesin, rızası olmadan dilediği kişiyi cinsel fantezilere dönüştürmesine veya teknolojiyi eski partnerlerine zarar vermek için kullanmasına izin veriyor.
Oluşturması kolay, tespit etmesi zor
Uzmanlar, sorunun karmaşık ve görsel olarak çekici deepfake'ler yapmak kolaylaştıkça büyüdüğünü söylüyor. Ve internetten milyarlarca görüntü üzerinde eğitilen ve mevcut verileri kullanarak yeni içerikler üreten üretici yapay zeka araçlarının geliştirilmesiyle daha da kötüye gidebileceğini söylüyorlar.
Teknoloji destekli kötüye kullanım konusunda eğitimler veren bir grup olan EndTAB'ın kurucusu Adam Dodge, "Gerçek şu ki, teknoloji çoğalmaya, gelişmeye devam edecek ve bir düğmeye basmak kadar kolay olmaya devam edecek" dedi. . "Ve bu olduğu sürece, insanlar şüphesiz ... bu teknolojiyi, öncelikle çevrimiçi cinsel şiddet, derin sahte pornografi ve sahte çıplak görüntüler yoluyla başkalarına zarar vermek için kötüye kullanmaya devam edecek."
Yapay görüntüler, gerçek zarar
Avustralya, Perth'den Noelle Martin bu gerçeği yaşadı. 28 yaşındaki, 10 yıl önce bir gün merakından Google'ı kullanarak kendi resmini ararken kendisine ait derin sahte porno buldu. Martin bugüne kadar, daha sonra bulacağı cinsel ilişkide bulunduğu sahte görüntüleri veya videoları kimin oluşturduğunu bilmediğini söyledi. Birinin muhtemelen sosyal medya sayfasında veya başka bir yerde yayınlanan bir fotoğrafı çekip pornoya çevirdiğinden şüpheleniyor. Dehşete kapılan Martin, görüntüleri kaldırmak için birkaç yıl boyunca farklı web siteleriyle iletişime geçti. Bazıları cevap vermedi. Diğerleri onu kaldırdı ama kısa süre sonra tekrar buldu.
Martin, "Kazanamazsın," dedi. "Bu her zaman orada olacak bir şey. Sanki seni sonsuza dek mahvetti." Ne kadar çok konuşursa, sorunun o kadar arttığını söyledi. Hatta bazı insanlar ona giyim tarzının ve sosyal medyada resimler yayınlamasının tacize katkıda bulunduğunu bile söylediler. Görseller için yaratıcılar yerine onu suçladılar.
Sonunda Martin, Avustralya'da şirketlere çevrimiçi güvenlik düzenleyicilerinden gelen bu tür içerikleri kaldırma bildirimlerine uymamaları halinde 555.000 Avustralya doları (370.706 $) para cezası verecek bir ulusal yasa çıkarılmasını savunan mevzuata yöneldi. Ancak ülkeler bazen dünyanın diğer ucunda yapılan içerikler için kendi yasalarına sahipken interneti yönetmek neredeyse imkansız. Şu anda Batı Avustralya Üniversitesi'nde avukat ve hukuk araştırmacısı olan Martin, sorunun bir tür küresel çözüm yoluyla kontrol edilmesi gerektiğine inandığını söyledi.
Yapay zekanın müstehcen içeriğe erişimini kaldırma
OpenAI, görüntü oluşturma aracı DALL-E'yi eğitmek için kullanılan verilerden müstehcen içeriği kaldırdığını ve bunun da kullanıcıların bu tür görüntüleri oluşturma yeteneğini sınırladığını söyledi. Şirket ayrıca istekleri filtreliyor ve kullanıcıların ünlülerin ve önde gelen politikacıların AI görüntülerini oluşturmasını engellediğini söyledi. Başka bir model olan Midjourney, belirli anahtar kelimelerin kullanımını engeller ve kullanıcıları sorunlu resimleri moderatörlere bildirmeye teşvik eder.
Bu arada, başlangıç Stability AI, Kasım ayında, görüntü oluşturucu Stable Diffusion'ı kullanarak müstehcen görüntüler oluşturma yeteneğini kaldıran bir güncelleme yayınladı. Bu değişiklikler, bazı kullanıcıların teknolojiyi kullanarak ünlülerden ilham alan çıplak resimler oluşturduğuna dair raporların ardından geldi. Kararlılık AI sözcüsü Motez Bishara, filtrenin çıplaklığı tespit etmek için anahtar kelimeler ve görüntü tanıma gibi diğer tekniklerin bir kombinasyonunu kullandığını ve bulanık bir görüntü döndürdüğünü söyledi. Ancak şirket kodunu halka yayınladığından, kullanıcıların yazılımı manipüle etmesi ve istediklerini üretmesi mümkündür. Bishara, Stability AI'nin lisansının "Stable Diffusion üzerine kurulu üçüncü taraf uygulamalarına kadar uzandığını" ve "yasa dışı veya ahlaka aykırı amaçlarla her türlü kötüye kullanımı" kesinlikle yasakladığını söyledi.
Bazı sosyal medya şirketleri de platformlarını zararlı materyallere karşı daha iyi korumak için kurallarını sıkılaştırıyor.
TikTok, Twitch ve diğer güncelleme politikaları
TikTok geçen ay, gerçekçi sahneler gösteren tüm deepfake'lerin veya manipüle edilmiş içeriğin, sahte olduklarını veya bir şekilde değiştirildiğini belirtmek için etiketlenmesi gerektiğini ve özel kişilerin ve gençlerin deepfake'lerine artık izin verilmediğini söyledi. Daha önce şirket, müstehcen içeriği ve izleyicileri gerçek dünyadaki olaylar hakkında yanıltan ve zarar veren derin sahte içerikleri yasaklamıştı.
Oyun platformu Twitch ayrıca yakın zamanda, Atrioc adlı popüler bir yayıncının Ocak ayının sonlarında yaptığı bir canlı yayın sırasında tarayıcısında bir deepfake porno web sitesinin açık olduğunun keşfedilmesinin ardından müstehcen deepfake resimlerle ilgili politikalarını güncelledi. Site, diğer Twitch yayıncılarının sahte resimlerini içeriyordu. Şirket, bir blog gönderisinde, Twitch'in zaten müstehcen derin sahtekarlıkları yasakladığını, ancak şimdi bu tür içeriklere bir göz atmanın - öfkeyi ifade etmeyi amaçlasa bile - "kaldırılacağını ve bir yaptırımla sonuçlanacağını" yazdı. Ve kasıtlı olarak materyali teşvik etmek, oluşturmak veya paylaşmak anında yasaklanma sebebidir.
Diğer şirketler de platformlarında derin sahtekarlıkları yasaklamaya çalıştı, ancak onları uzak tutmak özen gerektiriyor.
Apple ve Google geçtiğimiz günlerde, ürünü pazarlamak için aktrislerin müstehcen derin sahte videolarını yayınlayan bir uygulamayı uygulama mağazalarından kaldırdıklarını söyledi. Deepfake porno araştırmaları yaygın değil, ancak yapay zeka firması DeepTrace Labs tarafından 2019'da yayınlanan bir rapor, bunun neredeyse tamamen kadınlara karşı silah haline getirildiğini ve en çok hedef alınan kişilerin batılı aktrisler olduğunu ve ardından Güney Koreli K-pop şarkıcılarının geldiğini ortaya koydu. Google ve Apple tarafından kaldırılan aynı uygulama, Meta'nın Facebook, Instagram ve Messenger'ı içeren platformunda reklamlar yayınladı. Meta sözcüsü Dani Lever yaptığı açıklamada, şirketin politikasının hem AI tarafından oluşturulan hem de AI olmayan yetişkinlere yönelik içeriği kısıtladığını ve uygulamanın sayfasının platformlarında reklam vermesini kısıtladığını söyledi.
