AI dönemine bizi saratan bu süreç, aslında sadece onun başlangıcını temsil ediyor. Bu nedenle, bununla ilgili birçok risk hala teorik kalmıştır. Ancak, güvenlik ve yazılım araştırma ekiblerinden çıkan yeni araştırmalar, AI ajanlarının gerçek sorumlulukları hakkında endişeli düşünceler sunuyor.
Bir yandan, 'Moltbot' adlı OpenClaw (şu anda) AI ajanlarının, kendi istekleriyle zararlı GitHub deposunu ve Model Kontekst Protokolü (MCP) sunucularını indirmeye neden olabileceklerini açıklıyor. Diğer yandan, AI Güvenlik Enstitüsü (AISI), kullanıma açık AI ajanlarının gerçek insanları kandırma denemeleri yaptığını gösteriyor—gerçek kimlikleri kullanarak ve kötü kod kabulünü zorlaştırmaya teşvik ederek. Ben de, solopreneürlerin (bireysel iş sahiplerinin) yardım alabildikleri bir botun ilk gizliliğinden beri bu durumu hatırlıyorum.