Yapay zekâ cips paketini silah sandı: Öğrenciler dava açtı
Baltimore County'de dört siyahi lise öğrencisi, okullarında kullanılan yapay zekâ silah tespit sisteminin bir cips paketini silah olarak algılaması sonucu yaşadıkları gözaltı ve arama nedeniyle dava açtı. Habere göre, Ekim 2025'te Kenwood High School'da meydana gelen olayda, Omnilert Gun Detect adlı sistem bir öğrencinin çantasındaki Doritos paketini %90 olasılıkla silah olarak işaretledi. Alarm, okul personeli ve polis tarafından görüntünün incelenip hatanın anlaşılmasına rağmen devam etti; iptal edilmesine rağmen silahlı polis ekipleri okula sevk edildi. Öğrenciler, okul binasının hemen dışında diz çöktürülerek kelepçelendi ve arandı.
Dava, Omnilert şirketi, Baltimore County Public Schools, polis departmanı ve bireysel memurlara karşı açıldı. Lawyers' Committee for Civil Rights Under Law tarafından yapılan açıklamada, sistemin sık sık yanlış alarm ürettiğinin okul yetkilileri tarafından bilinmesine rağmen gerekli önlemlerin alınmadığı belirtiliyor. Habere göre, olay sırasında okul ve polis yetkilileri alarmı iptal etmiş olsalar da, iptal edilen alarmların silahlı polis müdahalesini tetiklemesini önleyecek yeterli protokollerin olmaması nedeniyle polis yine de okula gönderildi.
Davanın avukatlarından Damon Hewitt, yaptığı açıklamada, "Bu öğrenciler sadece yanlış alarm vermeye eğilimli bir teknoloji tarafından değil, aynı zamanda onları koruması gereken yetişkinler tarafından da yüzüstü bırakıldı" dedi. Hewitt, yapay zekâya aşırı güven ile yetkililer arasındaki iletişimsizliğin zehirli bir karışım oluşturduğunu vurguladı. Dava, benzer olayların önlenmesi için yerel polis ve okul prosedürlerinde reform yapılmasını amaçlıyor.
Olay, yapay zekâ destekli güvenlik sistemlerinin denetimsiz kullanımının ciddi sonuçlar doğurabileceğini gözler önüne seriyor. Öğrencilerin annesi Freida Winfield, oğluna polisin "Bu gerçek bir sorun olabilirdi" dediğini aktararak, hiçbir çocuğun okul önünde bu tür bir tehlikeyle karşılaşmaması gerektiğini söyledi.