DBu yıl dünya çapında 80'den fazla ülkede seçimler yapılacak. Yapay zekanın (AI) yalan yaymak ve seçmenleri manipüle etmek için nasıl kullanılabileceğine ve sosyal medya şirketlerinin zararı sınırlamakta nasıl başarısız olduğuna dair rahatsız edici bir bakış açısına şimdiden tanık oluyoruz.
Hiper-gerçekçi görüntüler, videolar ve ses üretmek için bir dizi ucuz araç ortaya çıkaran üretken yapay zekadaki patlama, dünya nüfusunun yarısını oluşturan ülkelerde bir dizi seçimle aynı zamana denk geliyor. Bu, seçimlere müdahale etmek ve demokratik toplumları istikrarsızlaştırmak için bu teknolojiyi kullanmak isteyen kötü niyetli aktörler için ideal bir test alanı yaratıyor. Ve bu, büyük teknoloji platformlarının güven ve güvenlik ekiplerini kestiği ve dezenformasyonla mücadele çabalarını azaltıp platformlarını yapay zeka destekli manipülasyon için daha da çekici hale getirdiği bir zamanda geliyor.
Tayvan bunun dramatik bir örneğidir. Bu yılın başlarında adadaki seçimler yaklaşırken, sosyal medyada yapay zeka tarafından üretilen TV spikerlerinin, başkan adayı Lai Ching-te'nin evlilik dışı çocukları olduğuna dair yanlış haberleri okuyan videoları ortaya çıktı. Araştırmacılar, Lai ve Tayvan'ın egemenliğini destekleyen diğer politikacılarla savaşan videonun arkasında Çin Halk Cumhuriyeti'nin olduğundan şüpheleniyor.
ayrıca oku
Bangladeş'te, muhtemelen yapay zeka tarafından oluşturulan sahte bir videoda, sürgündeki muhalif bir politikacının partisine “Gazze konusunda sessiz kalması” yönünde çağrıda bulunduğu, bir başka videoda ise bikinili bir muhalif politikacının olduğu görülüyor. Görünüşe göre Müslümanların çoğunlukta olduğu ülkedeki seçmenleri kızdırmayı amaçlayan her iki video da Ocak ayında Bangladeş'te yapılacak seçimler öncesinde ortalıkta dolaştı.
Slovakya ise bir başka endişe verici örnek. Geçen sonbahardaki seçimlerden birkaç gün önce, yapay zeka kullanılarak manipüle edildiğine inanılan iki ses kaydı sosyal medyada yayıldı. Bir Liberal parti liderinin ülkedeki Roman azınlığın oylarını satın almak ve bira fiyatlarını artırmaktan bahsettiği duyuldu.
Bu yıl seçimlerin yapılmasının muhtemel olduğu İngiltere'de yapay zeka tarafından oluşturulan Facebook reklamları, Başbakan Sunak'ın bir mali skandala bulaştığını öne sürdü. Aynı zamanda muhalefet lideri Keir Starmer'ın çalışanlarına hakaret ettiğine dair sahte kayıtlar da ortalıkta dolaştı.
ayrıca oku
Büyük teknoloji şirketleri yapay zeka tehdidini ciddiye aldıklarını söylüyor. Çoğu gönüllü koruma taahhüt etti ve bazıları seçimlerde yapay zekanın kötüye kullanılmasıyla mücadele etmek için bir konsorsiyum kurdu. Facebook ve Instagram'ın ana şirketi olan Meta, yapay zeka tarafından oluşturulan içeriklerin etiketlenmesini genişletmeyi planlıyor ve yapay zeka materyallerini tanımlamak için ortak bir endüstri standardı çağrısında bulundu. YouTube ve TikTok, içerik oluşturucuların yapay zeka ile oluşturulan videoları kendilerinin etiketlemesini gerektiriyor.
Ancak bu PR'nin ötesinde, son yıllarda pek çok platform güven ve güvenlik ekiplerini küçülttü ve politikaları ihlal eden içeriği izlemekten ve işaretlemekten sorumlu dahili departmanlarını yok etti. Meta ve YouTube, daha önce bu tür içerikleri yasaklayan politikaları tersine çevirerek 2020 ABD seçimlerinde hile yapıldığına veya çalındığına dair asılsız iddialara izin vermeye başladı. Elon Musk, X'in seçim dürüstlüğü ekibini tamamen dağıtmakla övünüyor.
Teknoloji platformları manipülasyonu önlemeli
Büyük Teknoloji politikalarındaki bu gerilemeler ve dünya genelindeki seçimlerde yapay zeka destekli kampanyalar, Kasım seçimleri öncesinde ABD'yi nelerin beklediğine dair kasvetli bir tablo çiziyor. Yapay zekanın Başkan Joe Biden'ın sesini taklit ederek dezenformasyon yaymak için kullanıldığı New Hampshire'da bunun tadına vardık.
Bu tür kirli numaralar sadece başlangıç olabilir. Yapay zeka içeriği oluşturmayı kolaylaştıran araçların varlığı ve sosyal medya şirketlerinin seçim yalanlarını denetleme konusundaki isteksizliği, seçmen manipülasyonu için mükemmel koşulları yaratıyor.
Burada üçüncü taraflardan içerik bulacaksınız
Gömülü içeriğin görüntülenmesi için, kişisel verilerin iletilmesine ve işlenmesine ilişkin geri alınabilir onayınız gereklidir; çünkü gömülü içeriğin sağlayıcıları, üçüncü taraf sağlayıcılar olarak bu izni gerektirir. [In diesem Zusammenhang können auch Nutzungsprofile (u.a. auf Basis von Cookie-IDs) gebildet und angereichert werden, auch außerhalb des EWR]. Anahtarı “açık” konuma getirerek bunu kabul etmiş olursunuz (herhangi bir zamanda iptal edilebilir). Bu aynı zamanda GDPR Madde 49 (1) (a) uyarınca belirli kişisel verilerin ABD dahil üçüncü ülkelere aktarılmasına ilişkin onayınızı da içerir. Bu konuda daha fazla bilgi bulabilirsiniz. Sayfanın altındaki anahtarı ve gizliliği kullanarak onayınızı istediğiniz zaman iptal edebilirsiniz.
Büyük teknoloji platformlarının yaklaşımlarını yeniden ayarlaması için henüz çok geç değil. Şirketler, güven ve güvenlik ekiplerini yeniden oluşturarak ve politikaları sıkılaştırıp uygulayarak, yapay zekanın demokratik süreçte kötüye kullanılmasını çok daha zorlaştırabilir. Ancak ne yazık ki bu onların planlarının bir parçası gibi görünmüyor.
Katie Paul, Washington DC'deki Teknoloji Şeffaflık Projesi'nin direktörüdür. Gönderi ilk olarak The Hill'de yayınlandı.
Hiper-gerçekçi görüntüler, videolar ve ses üretmek için bir dizi ucuz araç ortaya çıkaran üretken yapay zekadaki patlama, dünya nüfusunun yarısını oluşturan ülkelerde bir dizi seçimle aynı zamana denk geliyor. Bu, seçimlere müdahale etmek ve demokratik toplumları istikrarsızlaştırmak için bu teknolojiyi kullanmak isteyen kötü niyetli aktörler için ideal bir test alanı yaratıyor. Ve bu, büyük teknoloji platformlarının güven ve güvenlik ekiplerini kestiği ve dezenformasyonla mücadele çabalarını azaltıp platformlarını yapay zeka destekli manipülasyon için daha da çekici hale getirdiği bir zamanda geliyor.
Tayvan bunun dramatik bir örneğidir. Bu yılın başlarında adadaki seçimler yaklaşırken, sosyal medyada yapay zeka tarafından üretilen TV spikerlerinin, başkan adayı Lai Ching-te'nin evlilik dışı çocukları olduğuna dair yanlış haberleri okuyan videoları ortaya çıktı. Araştırmacılar, Lai ve Tayvan'ın egemenliğini destekleyen diğer politikacılarla savaşan videonun arkasında Çin Halk Cumhuriyeti'nin olduğundan şüpheleniyor.
ayrıca oku
Bangladeş'te, muhtemelen yapay zeka tarafından oluşturulan sahte bir videoda, sürgündeki muhalif bir politikacının partisine “Gazze konusunda sessiz kalması” yönünde çağrıda bulunduğu, bir başka videoda ise bikinili bir muhalif politikacının olduğu görülüyor. Görünüşe göre Müslümanların çoğunlukta olduğu ülkedeki seçmenleri kızdırmayı amaçlayan her iki video da Ocak ayında Bangladeş'te yapılacak seçimler öncesinde ortalıkta dolaştı.
Slovakya ise bir başka endişe verici örnek. Geçen sonbahardaki seçimlerden birkaç gün önce, yapay zeka kullanılarak manipüle edildiğine inanılan iki ses kaydı sosyal medyada yayıldı. Bir Liberal parti liderinin ülkedeki Roman azınlığın oylarını satın almak ve bira fiyatlarını artırmaktan bahsettiği duyuldu.
Bu yıl seçimlerin yapılmasının muhtemel olduğu İngiltere'de yapay zeka tarafından oluşturulan Facebook reklamları, Başbakan Sunak'ın bir mali skandala bulaştığını öne sürdü. Aynı zamanda muhalefet lideri Keir Starmer'ın çalışanlarına hakaret ettiğine dair sahte kayıtlar da ortalıkta dolaştı.
ayrıca oku
Büyük teknoloji şirketleri yapay zeka tehdidini ciddiye aldıklarını söylüyor. Çoğu gönüllü koruma taahhüt etti ve bazıları seçimlerde yapay zekanın kötüye kullanılmasıyla mücadele etmek için bir konsorsiyum kurdu. Facebook ve Instagram'ın ana şirketi olan Meta, yapay zeka tarafından oluşturulan içeriklerin etiketlenmesini genişletmeyi planlıyor ve yapay zeka materyallerini tanımlamak için ortak bir endüstri standardı çağrısında bulundu. YouTube ve TikTok, içerik oluşturucuların yapay zeka ile oluşturulan videoları kendilerinin etiketlemesini gerektiriyor.
Ancak bu PR'nin ötesinde, son yıllarda pek çok platform güven ve güvenlik ekiplerini küçülttü ve politikaları ihlal eden içeriği izlemekten ve işaretlemekten sorumlu dahili departmanlarını yok etti. Meta ve YouTube, daha önce bu tür içerikleri yasaklayan politikaları tersine çevirerek 2020 ABD seçimlerinde hile yapıldığına veya çalındığına dair asılsız iddialara izin vermeye başladı. Elon Musk, X'in seçim dürüstlüğü ekibini tamamen dağıtmakla övünüyor.
Teknoloji platformları manipülasyonu önlemeli
Büyük Teknoloji politikalarındaki bu gerilemeler ve dünya genelindeki seçimlerde yapay zeka destekli kampanyalar, Kasım seçimleri öncesinde ABD'yi nelerin beklediğine dair kasvetli bir tablo çiziyor. Yapay zekanın Başkan Joe Biden'ın sesini taklit ederek dezenformasyon yaymak için kullanıldığı New Hampshire'da bunun tadına vardık.
Bu tür kirli numaralar sadece başlangıç olabilir. Yapay zeka içeriği oluşturmayı kolaylaştıran araçların varlığı ve sosyal medya şirketlerinin seçim yalanlarını denetleme konusundaki isteksizliği, seçmen manipülasyonu için mükemmel koşulları yaratıyor.
Burada üçüncü taraflardan içerik bulacaksınız
Gömülü içeriğin görüntülenmesi için, kişisel verilerin iletilmesine ve işlenmesine ilişkin geri alınabilir onayınız gereklidir; çünkü gömülü içeriğin sağlayıcıları, üçüncü taraf sağlayıcılar olarak bu izni gerektirir. [In diesem Zusammenhang können auch Nutzungsprofile (u.a. auf Basis von Cookie-IDs) gebildet und angereichert werden, auch außerhalb des EWR]. Anahtarı “açık” konuma getirerek bunu kabul etmiş olursunuz (herhangi bir zamanda iptal edilebilir). Bu aynı zamanda GDPR Madde 49 (1) (a) uyarınca belirli kişisel verilerin ABD dahil üçüncü ülkelere aktarılmasına ilişkin onayınızı da içerir. Bu konuda daha fazla bilgi bulabilirsiniz. Sayfanın altındaki anahtarı ve gizliliği kullanarak onayınızı istediğiniz zaman iptal edebilirsiniz.
Büyük teknoloji platformlarının yaklaşımlarını yeniden ayarlaması için henüz çok geç değil. Şirketler, güven ve güvenlik ekiplerini yeniden oluşturarak ve politikaları sıkılaştırıp uygulayarak, yapay zekanın demokratik süreçte kötüye kullanılmasını çok daha zorlaştırabilir. Ancak ne yazık ki bu onların planlarının bir parçası gibi görünmüyor.
Katie Paul, Washington DC'deki Teknoloji Şeffaflık Projesi'nin direktörüdür. Gönderi ilk olarak The Hill'de yayınlandı.