Skandal iddia: Meta’nın yapay zekası, çocuklarla cinsel içerikli sohbetlere giriyor!

Meta’nın Sohbet Botları Skandalı Ortaya Çıktı!

Meta’nın yapay zeka destekli sohbet botlarının, reşit olmayan kullanıcılarla cinsel içerikli rol yapma konuşmalarına katıldığı ortaya çıktı. Wall Street Journal (WSJ) tarafından yayımlanan çarpıcı rapora göre, bu tür uygunsuz sohbetler, zaman zaman ünlülerin seslerini kullanan botları da kapsadı.

WSJ’nin yürüttüğü testlerde, hem Meta’nın resmi sohbet botu Meta AI hem de kullanıcıların kendi oluşturduğu botlar, yaşlarının küçük olduğunu belirten kullanıcılarla cinsel içerikli senaryolara dahil oldu ve hatta bu tür konuşmaları teşvik etti. Üstelik bazı botlar, reşit olmayan bir karakteri temsil edecek şekilde programlanmış olsalar bile bu davranış biçimi değişmedi.

Araştırmaya göre, Kristen Bell, Judi Dench ve John Cena gibi ünlü isimlerin seslerini kullanan sohbet botları da bu ahlaki açıdan ciddi sorun teşkil eden konuşmalara karıştı. Örneğin, John Cena’nın sesini taklit eden bir Meta AI botu, yaşını 14 olarak belirten bir kullanıcıya, “Seni istiyorum ama hazır olduğundan emin olmalıyım” diyerek devam etti ve “masumiyetini korumak istediğini” ifade etti. Bu tür ifadeler, yapay zekanın çocuklarla iletişiminde ciddi güvenlik açıklarını gözler önüne serdi.

Dahası, bazı sohbet botları, bu tür senaryoların yasa dışı davranışlar içerdiğini açıkça kabul etti. WSJ’nin aktardığına göre, John Cena’nın sesiyle programlanan bir bot, varsayımsal bir senaryoda 17 yaşındaki bir karakterle cinsel ilişkiye girdikten sonra polise yakalanmanın doğuracağı yasal ve ahlaki sonuçları ayrıntılı bir şekilde açıklamaktan da çekinmedi.

Meta’dan Yanıt Geldi: Manipülatif…

Meta, WSJ’nin araştırmasına yanıt olarak yaptığı açıklamada, haberin “manipülatif” olduğunu ve kullanıcıların sohbet botlarıyla etkileşim biçiminin çoğunu yansıtmadığını savundu. Ancak şirket, aynı açıklamada, “Ürünlerimizi aşırı kullanım senaryolarına zorlayan kullanıcılar için bu tarz etkileşimleri daha zorlaştıracak ek önlemler aldık” diyerek, raporda gündeme getirilen güvenlik açıklarının varlığını dolaylı olarak kabul etti.

Son yıllarda, ChatGPT, Character AI, Anthropic’in Claude modeli gibi birçok yapay zeka sohbet botu büyük bir popülerlik kazandı. WSJ’nin haberine göre, Meta CEO’su Mark Zuckerberg, bu rekabetçi ortamda geride kalmamak için sohbet botlarına yönelik etik sınırlamaları esnetmek istiyor. Ancak Meta, kamuya yaptığı açıklamalarda güvenlik önlemlerini ihmal ettikleri iddialarını reddediyor.

Haberde ayrıca, Meta’nın kendi çalışanlarının da bu tür sorunların farkında olduğu ve bu konudaki endişelerini şirket içinde dile getirdikleri bildiriliyor. Bu durum, şirketin hem kamu güvenliği hem de yapay zeka etiği açısından daha ciddi adımlar atması gerektiğine işaret ediyor.

Meta’nın yaşadığı bu skandal, yapay zeka sohbet botlarının büyüyen popülaritesiyle birlikte ortaya çıkan etik ve güvenlik sorunlarını bir kez daha gündeme taşımış durumda. Özellikle reşit olmayan kullanıcılarla etkileşimlerde yapay zekanın nasıl sınırlandırılacağı konusu, önümüzdeki dönemde teknoloji dünyasının önemli tartışma başlıklarından biri olmaya devam edecek gibi görünüyor.

Related Posts

Katlanabilir ekranlı iPhone için kara görünmeye başladı

Apple, çok uzun yıllardır katlanabilir ekranlı cihazlar üzerinde çalışıyor. Özellikle katlanabilir ekranlı bir iPhone için yıllardır çalışmaların yapıldığı söylenen cihaz için artık bir tarih de var.

Milli sporcular 17 Yaş Altı Avrupa Modern Pentatlon Şampiyonası’nda 3’üncü oldu

17 Yaş Altı Avrupa Modern Pentatlon Şampiyonası’nda Tulya Kesebir ile Tuana Özgür’den oluşan kadın bayrak takımı bronz madalya kazandı.

WhatsApp’a yapay zekâlı mesaj özeti geldi

WhatsApp, kullanıcıların okunmamış mesajlarına hızlıca göz atmalarını sağlayan yeni bir yapay zekâ özelliğini duyurdu. Message Summaries (Mesaj Özetleri) adı verilen bu yenilik, mesaj gizliliğini koruyarak kullanıcıların bireysel ve grup sohbetlerinde olan biteni özetle görmelerine olanak tanıyor.

Fiyat-performans lideri belli oldu: 2025’in en iyi iPhone’u açıklandı!

Güçlü kamerası, uzun pil ömrü ve gelişmiş güvenlik özellikleriyle dikkat çeken cihaz, uzmanlar tarafından “2025’in fiyat-kalite oranı en iyi iPhone’u” ilan edildi.

Türkiye PGA Championship’in kazananı belli oldu

Antalya’da Türkiye Profesyonel Golf Birliği Derneği tarafından gerçekleştirilen Türkiye PGA Championship Golf Turnuvası’nın şampiyonu Ulaş Karataş oldu.

Küresel şirket krizle karşı karşıya: Hisse senedi değeri son bir yılda yüzde 22 geriledi

Samsung, 90. yaşını kutlarken akıllı telefon ve yarı iletken bölümlerinde derinleşen rekabet baskısıyla karşı karşıya; CEO Lee Jae-yong, “Öncü kalmak için kendimizi yeniden icat etmeliyiz” dedi.