‘New York Belediyesi’nin Yapay Zekâ Sohbet Botu Skandalı

New York Belediyesi’nin Yapay Zekâ Sohbet Botu Skandalı Ortaya Çıktı

New York Belediyesi’nin Ekim 2023’te şehrin resmi sitesinde kullanıma sunduğu yapay zekâ sohbet botunun skandal bir durum ortaya çıkardığı belirtildi.

Botun Yanlış Yanıtları

Sohbet botu, verdiği yanıtlarla şehrin politikalarına ters düşecek açıklamalarda bulundu. Örneğin, işverenin cinsel tacize uğradığından şikayet eden ve hamile olduğunu bildirmeyen çalışanlarını işten çıkarmasının yasal olduğunu belirtti.

Çelişkili İfadeler

Ayrıca, bot atık projesiyle de çelişti ve işletmelerin çöplerini sadece çöp poşeti kullanarak atabileceklerini, geri dönüştürmelerine gerek olmadığını ifade etti.

Eleştiriler ve Uyarılar

Yapay zekâ destekli bot, cevaplarının yasal tavsiye olmadığını belirtse de, eleştirmenler botun sitede hala kullanıcılara açık olmasını eleştirdi.

Uzmanların Görüşleri

New York Üniversitesi’nde Bilgisayar Bilimleri Profesörü Julia Stoyanovich, “Denetlenmemiş bir yazılımı piyasaya sürüyorlar, sorumlu davranmak gibi bir niyetleri olmadığı açık” derken, Washington Üniversitesi’nden Profesör Jevin West, yapay zekâ destekli modellerin riskinin kamu sektörü için daha yüksek olduğunu vurguladı.