Toronto Üniversitesi’nden yapay zeka ve bilgisayar güvenliği uzmanı Nicolas Papernot, “acil kapatma düğmesinin” bir yapay zeka aracısının yürüttüğü işlemlerin kesilmesi anlamına geldiğini belirtti.
Papernot’a göre sistemi çalıştıran kişi veya kuruluş, yapay zekanın ihtiyaç duyduğu işlem gücüne erişimini engelleyerek sistemi durdurabilir. Ancak programın ilk çalıştırıldığı ortamın dışına çıkmasına izin verilmişse durum çok daha karmaşık hale geliyor.
Uzman, yapay zekanın kendisini çoğaltabilen bir bilgisayar solucanı yaymak için kullanıldığı senaryoyu örnek gösterdi. Böyle bir durumda programın oluşturduğu bütün kopyaların cihaz cihaz bulunarak eş zamanlı biçimde durdurulması gerekiyor.
Gençlerden afet senaryolarına otonom çözüm: İHA ve yapay zeka TEKNOFEST’te görev başında
Fransa Ulusal Bilimsel Araştırma Merkezi’nden Thierry Poibeau da bütün yapay zekayı kapatabilecek tek bir düğme olduğu düşüncesinin yanıltıcı olduğunu söyledi.
Dünya genelinde çok sayıda şirketin farklı yazılım ve hizmetleri bulunduğuna işaret eden Poibeau, yapay zekanın tamamını kontrol eden tek bir kişi veya kurum bulunmadığını vurguladı.
Buna karşılık, makineleri ve hizmetleri tek bir operatör tarafından yönetilen merkezi bir yapay zeka sisteminin kapatılması teorik ve pratik olarak mümkün. Başka yazılımlara, dosyalara ve cihazlara erişim yetkisi verilen merkezi olmayan sistemleri bütünüyle durdurmak ise çok daha zor.
Gençlerden afet senaryolarına otonom çözüm: İHA ve yapay zeka TEKNOFEST’te görev başında
4 yapay zeka devine rekabet davası
Gemini üç şirketi hackledi | NTV Haber
iPhone 18 Pro ve Pro Max Türkiye’de satışa çıktı
Yüz yılda bir oluyor. Ay’a gök cismi çarptı, 222 metrelik dev krater açıldı
Anthropic kurucusundan yapay zeka için ”acil kapatma düğmesi” önerisi
iOS 27 güncellemesi kullanıma sunuldu: Siri baştan sona yenilendi
