Son birkaç ay içinde, yapay zeka (YZ) hakkında birçok tartışma yapıldı ve YZ araştırmacıları ve uzmanları, dikkatli olmazsak insanlığın yok olmasına neden olabileceğini bile iddia etti. Yanlış bilginin yayılması, YZ “halüsinasyonları” ve Deepfake’lerle ilgili vakaların tartışmalara neden olduğu konular arasında yer aldı. Son zamanlarda, popüler generatif YZ programı Midjourney, siyasetçilerin sahte görüntülerini oluşturmak için kullanıldı ve bu görüntüler hızla viral oldu. Kullanıcı şimdi platformdan yasaklandı.
Midjourney tarafından oluşturulan sahte görüntüler
Bilmeyenler için, Midjourney, San Francisco merkezli bağımsız bir araştırma laboratuvarı olan Midjourney, Inc. tarafından oluşturulmuş bir generatif YZ platformudur. OpenAI’nin DALL-E ve BigSleep’in Imagen gibi, doğal dil açıklamalarından, yani promptlardan görüntüler oluşturur. Video editörü Justin Brown, ünlü siyasetçilerin sahte YZ fotoğraflarını oluşturmak için promptları kullandı, Futurism’in bir raporuna göre.
Twitter’daki bir gönderide Brown, “AI will revolutionize the blackmail industry” adlı bir seri için “eşlerini aldatan siyasetçilerin gerçekçi görüntülerini üretmek için Midjourney AI’dan yasaklandım.” yazdı.
Sahte görüntüler, 2024 Amerikan başkanlık yarışının bir parçası olan bazı siyasi kişilikleri içeriyor. Joe Biden, eski POTUS Donald Trump ve Florida Valisi Ron DeSantis gibi isimlerin yanı sıra eski Başkan Yardımcısı Mike Pence, Amerika Birleşik Devletleri Senatosu Azınlık Lideri Mitch McConnell ve Amerika Birleşik Devletleri Senatörü Bernie Sanders gibi diğer kişilikler de yer alıyor.
Reddit yasağı
Midjourney, bu sahte görüntülerin platformu üzerinden oluşturulmasına izin verse de, kullanıcı bunları Reddit’e gönderdikten sonra hemen yasaklandı – görüntüler bu platformdan da kaldırıldı. PetaPixel ile yapılan bir görüşmede Brown, “Reddit’te biraz dikkat çektikten sonra, seri moderatörler tarafından kaldırıldı ve Midjourney yasağı hemen ardından geldi.” dedi.
Seri, YZ teknolojisinin nasıl kolayca bir silaha dönüşebileceğini göstermek amacıyla oluşturulmuş olsa da, Brown sahte görüntülerin yanlış kullanıldığını ve bağlamdan koparılarak paylaşıldığını belirtiyor.
