Facebook, Instagram ve WhatsApp’ın çatı kuruluşu Meta yapay zeka sohbet robotlarına gençler için daha fazla koruma getireceğini duyurdu.

Meta, yapay zekanın gençlerle intihar, kendine zarar verme ve yeme bozuklukları hakkında konuşmalarının engelleneceğini duyurdu.

Şirketten sızdırılan bir belgede yapay zeka ürünlerinin gençlerle ‘duygusal’ sohbetler edebileceği öne sürülmüştü. Ardından bir ABD senatörü teknoloji devi hakkında soruşturma başlatmıştı.

Şirket, Reuters’ın ele geçirdiği belgedeki notların hatalı olduğunu ve çocuklara cinsel her türlü içeriği yasaklayan politikalarıyla tutarsız olduğunu savundu. Ayrıca yapay zekalarının intihar gibi hassas konulara girmek yerine onları uzman kaynaklara yönlendireceğini vadetti.

Meta sözcüsü şunları söyledi:

“Gençler için koruma önlemlerini en başından itibaren yapay zeka ürünlerimize entegre ettik. Bunlar arasında, gençlerin kendine zarar verme, intihar ve yeme bozuklukları gibi konulardaki uyarılara güvenli bir şekilde yanıt verebilecek şekilde tasarımlar da yer alıyor.“

Şirket 29 Ağustos’ta  ekstra bir önlem olarak sistemlerine daha fazla koruma ekleyeceğini ve gençlerin iletişime gireceğini sohbet robotlarını geçici olarak sınırlayacağını duyurdu.

25 yaş altı gençlerin intiharını önlemek için çalışan Molly Rose Vakfı Başkanı Andy Burrows konuyu şöyle değerlendirdi:

“Daha fazla güvenlik önlemi almalarını memnuniyetle karşılıyoruz. Fakat bu ürünler piyasaya sürülmeden önce kapsamlı güvenlik testleri yapılmalıdır; zarar meydana geldiğinde geriye dönük olarak değil.

Meta, yapay zeka sohbet robotları için daha güçlü güvenlik önlemleri uygulamak amacıyla hızlı ve kararlı bir şekilde hareket etmeli ve Ofcom, bu güncellemelerin çocukları güvende tutmada başarısız olması durumunda soruşturma başlatmaya hazır olmalıdır.“