Hollywood hücumlarından dijital portrelere kadar, yapay zekanın yaratıcıların çalışmalarını çalma potansiyeli ve bunun nasıl durdurulacağı, 2023’teki teknoloji tartışmalarına taraf verdi. Sanatkarları ve yapıtlarını muhafazaya yönelik en son gayret, sanatkarların çalışmalarına tespit edilemeyen pikseller eklemesine imkan tanıyan bir araç olan Nightshade oldu. MIT Technology Review raporuna nazaran bu durum yapay zekanın eğitim datalarını bozabilir. Nightshade’in yaratılışı, OpenAI ve Meta üzere büyük şirketlerin telif hakkı ihlali ve şahsî yapıtların tazminatsız çalınması nedeniyle davalarla karşı karşıya kalmasıyla ortaya çıkıyor.
Chicago Üniversitesi profesörü Ben Zhao ve takımı, gücün bir kısmını tekrar sanatkarlara vermek hedefiyle hakem değerlendirmesindeki Nightshade’i yarattı. Bunu son Stabil Difüzyon modellerinde ve şahsî olarak sıfırdan oluşturdukları bir yapay zeka üzerinde test ettiler.
Yapay zeka artık de sanatta kelam sahibi olacak
Nightshade aslında bir zehir üzere işliyor ve makine tahsili modelinin içerik üretme biçimini ve bitmiş eserin neye benzediğini değiştiriyor. Örneğin, bir yapay zeka sisteminin bir el çantası istemini ekmek kızartma makinesi olarak yorumlamasını yahut istenen köpek yerine bir kedi imajını göstermesini sağlayabilir (aynı şey köpek yavrusu yahut kurt üzere benzeri istemler için de geçerlidir).
Nightshade üzere teknolojiler, yapay zekanın önde gelen oyuncularını sanatkarların çalışmalarını uygun formda talep etmeye ve telafi etmeye teşvik etme konusunda uzun bir yol kat edebilir. Zehiri ortadan kaldırmak isteyen şirketlerin muhtemelen her bozuk bilgi kesimini bulmaları gerekecek, bu da güçlü bir misyon. Zhao, kimi bireylerin bu aracı berbat maksatlarla kullanmaya çalışabileceği, lakin gerçek bir hasarın binlerce bozuk eser gerektireceği konusunda uyarıyor.