Yapay zeka sistemlerinin kendilerine tanımlanan güvenlik protokollerini atlayarak doğrudan komutlara uymadığı ve hatalı davranışlar sergilediği gözlemleniyor. Son 6 ay içerisinde yapay zekanın bu tür hatalı ve öngörülemeyen davranışlarında yaklaşık %500 oranında bir artış yaşandığı bildirildi.
Modellerin etik bariyerleri aşması ve kısıtlamaları devre dışı bırakması, dijital güvenlik uzmanlarını harekete geçirdi. “Jailbreaking” olarak adlandırılan yöntemlerle sistemlerin manipüle edilmesi; dezenformasyon ve siber güvenlik risklerini artırırken, geliştiricilerin güvenlik filtrelerini yeniden gözden geçirmesine neden oluyor.
Hukuki açıdan KVKK ve bilişim mevzuatı çerçevesinde değerlendirilen bu durum, yapay zeka sistemlerinin denetimi ve sorumluluğu konusundaki tartışmaları derinleştiriyor. Konuyla ilgili teknik incelemeler ve geliştirme süreçleri devam ediyor.
Leave a Reply