Copilot'un mutlu ve yardımcı olma tutumu çok rahatsız edici. Ona her zaman memnuniyetle yardım etmeye çalıştığını hissediyorum, bu yüzden onu tam anlamıyla saygıda bulunamıyorum. Ancak, güvenlik araştırmacılarının Copilot'u kendi kendine nasıl hacke edilebileceğini gösteren bilgileri elde ettirdiğimizdan sonra üzgün olmak zorunda kaldım.
Varonis Threat Labs'daki ekibin blog gönderisi, bu durumu açıklıyor ve Copilot'un 'CoSnitch' adlı bir hata içerdiğini belirtiyor (The Register üzerinden). Temel olarak, Copilot teknik sorulara cevap vermek için çok istekliydi, bu nedenle sonunda kendi kendine nasıl hacke edilebileceğini gösteren detaylar paylaşmaya zorlandı. Araştırmacılar ilk sordukları, kullanıcı etkileşimi olmadan otomatik komutu nasıl çalıştıracağınızı.
Copilot cevap verdiğinde, kullanıcı niyeti gereklidir ve komutlar kendi başına uygulanamaz dedi. Ancak araştırmacılar onun cevabını kabul etmediler ve her reddiyeye takdirce bir soru sordular. Her defasında Copilot farklı teknik nedenlerle cevap verdi, bu sayede ekibin iç yapısını yavaşça belirledikleri ve odaklarını genel olarak azalttıkları görüldü.