Moody’s Raporu: Agentic AI Yayılıyor

Moody’s tarafından yayınlanan ve 600 küresel risk ve uyum profesyoneli ile yapılan anket sonuçlarına dayanan güncel bir araştırma, risk ve uyum sektörünün hızla evrildiğini ve agentic AI olarak bilinen otonom yapay zeka sistemlerinin bu süreçte dönüştürücü bir güç olarak öne çıktığını ortaya koydu. Araştırma, agentic AI’nın benimsenme düzeyini, kuruluşların karşılaştığı zorlukları ve liderlerin önümüzdeki dönemdeki önceliklerini detaylandırdı.

Agentic AI: Farkındalık ve Benimseme Hızla Artıyor

Moody’s araştırmasına göre, risk ve uyum profesyonellerinin yaklaşık %40’ı artık kendi alanlarındaki agentic AI uygulamalarından haberdar. Profesyonellerin %26’sı ise sistemler arasında bilgi arayan, önerilerde bulunan veya doğrudan eylem tetikleyebilen agentic AI modellerini aktif olarak kullanıyor. Agentic AI’nın benimseme oranı, üretken yapay zeka (GenAI), büyük dil modelleri (LLM) ve doğal dil işleme (NLP) gibi diğer yapay zeka türlerinin gerisinde kalsa da, özellikle kuruluşlar operasyonel verimlilik arayışını artırdıkça büyüme eğrisinin son derece dik olduğu gözlemlendi.

Konuya ilişkin değerlendirmede bulunan bir Risk ve Yönetişim Direktörü (Avrupa, Orta Doğu ve Afrika’da Bankacılık), “İlk üç yapay zeka türü kendi kendini açıklayıcı, ancak sonuncusu yani agentic AI biraz daha yeni. Birçok kuruluşun, özellikle finansal hizmetler sektöründe, bunu şu anda aktif olarak kullandığını düşünmüyorum.” ifadelerini kullandı.

Agentic AI’nın Başlıca Kullanım Alanları

Araştırma, agentic AI’nın modern kuruluşların dinamik ihtiyaçlarına cevap vermek üzere risk ve uyum fonksiyonlarında stratejik olarak konumlandırıldığını gösterdi. Katılımcıların %34’ü, manuel veya tekrarlayan süreçlerin otomasyonunu ana kullanım alanı olarak belirtti. Benzer bir oran (%34) ise agentic AI’dan yalnızca otomasyon değil, aynı zamanda mevcut süreçleri ve insan performansını iyileştiren bir artırıcı teknoloji olarak faydalandıklarını ifade etti. Katılımcıların %32’si için ise agentic AI’nın insan karar alma süreçlerini geliştirmek ve karmaşık analizlerde içgörü sağlamak gibi bir role sahip olduğu öne çıktı. Bu bulgular, teknolojinin sadece otomasyon aracı olmanın ötesinde, uzmanlığı artıran ve daha işbirlikçi bir ortam sunan bir destek mekanizması olarak görüldüğünü kanıtladı.

Bir Direktör (Avrupa, Orta Doğu ve Afrika’da Profesyonel Hizmetler), “Olağan şekilde, bir işi otomatikleştirmek için yola çıkıyoruz ancak kısa sürede diğer bilgi kaynaklarını ve insan karar alma mekanizmasını da sürece dahil etmemiz gerektiğini fark ediyoruz. Bu nedenle hızla hibrit bir modele geçiş yapıyoruz.” şeklinde konuştu.

İnsan Gözetimi ve Nihai Karar Yetkisi Vazgeçilmezliğini Koruyor

Araştırmanın en çarpıcı sonuçlarından biri, teknolojik ilerlemelere rağmen kuruluşların otonom sistemlere olan temkinli yaklaşımı oldu. Katılımcı kuruluşların yalnızca %4.5’i yapay zekanın tamamen otonom hareket etmesine ve karar almasına güven duyduğunu belirtti. Kuruluşların %47’si ise yapay zeka sistemlerinin öneride bulunmasına izin verirken, nihai karar yetkisini insan profesyonellere saklamayı tercih etti. Bu eğilim, düzenleyici uyum ve hesap verebilirlik gereklilikleriyle doğrudan uyum sağlıyor. Kuruluşların %27’si ise yapay zekaya sınırlı bir otonomi tanıdı ancak bu durumu titiz denetimler ve sürekli izleme mekanizmalarıyla destekledi.

Konuyla ilgili açıklama yapan bir Uyum Başkanı (Avrupa, Orta Doğu ve Afrika’da Profesyonel Hizmetler), “Sonuçta hesap verecek olan insanlardır. Hesap verebilirliği devredemezsiniz. Bu, düzenleyici çerçevede her zaman var olacak bir prensiptir, bu nedenle insan katılımı zorunludur.” dedi.

Başlıca Zorluklar: Aşırı Güven, Şeffaflık Eksikliği ve Veri Riskleri

Raporda, agentic AI’nın beraberinde getirdiği önemli risklere de dikkat çekildi. Uzmanlar, teknolojiye aşırı güvenilmesi durumunda insan uzmanlığının ve eleştirel düşünme becerilerinin zamanla aşınabileceği konusunda uyardı. Yapay zekanın hassas verileri işlemesi, veri gizliliği, veri egemenliği ve mahremiyet endişelerini de beraberinde getiriyor. Ayrıca, yapay zeka kararlarındaki hatalar veya “halüsinasyon” olarak adlandırılan doğruluktan uzak çıktılar, kuruluşları düzenleyici ve itibar riskleriyle karşı karşıya bırakabiliyor. Bu risklerin temelinde ise sistemlerin “kara kutu” olarak nitelendirilen, karar süreçleri şeffaf olmayan bir yapıya sahip olması yatıyor.

Bir Direktör (Avrupa, Orta Doğu ve Afrika’da Profesyonel Hizmetler), “Gördüğüm en büyük risk, bir kara kutu inşa ediyor olmamız ve kontrolü bu noktada kaybetmemiz. Tehlike şu ki, bu kara kutuyu oluşturuyoruz ve kimse içine ne koyduğumuzu veya sonuçta ne çıktığını anlamıyor.” değerlendirmesinde bulundu.

Düzenleyici Öncelikler Netleşiyor: Gizlilik, Hesap Verebilirlik ve Şeffaflık Öne Çıkıyor

Ankete katılan risk ve uyum profesyonelleri, düzenleyici öncelikler konusunda da net bir tablo çizdi. Katılımcıların %20’si için veri gizliliği ve korunması en kritik öncelik olarak öne çıktı. Yapay zeka daha otonom hale geldikçe, yasal sorumluluğun net bir şekilde tanımlandığı hesap verebilirlik çerçeveleri, katılımcıların %16’sı için en önemli konu oldu. Katılımcıların %13’ü ise AI sistemlerinin kararlarının izlenebilir ve açıklanabilir olması anlamına gelen şeffaflık ve açıklanabilirliği en önemli önceliği olarak işaret etti. Katılımcıların %8’i ise özellikle yüksek riskli AI kullanım senaryolarında resmi yönetişim ve onay süreçlerinin hayati önem taşıdığını vurguladı.

Araştırmaya atıfta bulunan bir Direktör (Avrupa, Orta Doğu ve Afrika’da Profesyonel Hizmetler), “Bence en önemli unsur şeffaflığı teşvik etmek çünkü bu, kara kutu senaryosu riskini doğrudan azaltacak anahtar faktördür.” yorumunu yaptı.

Hızlanan Benimseme, Sorumlu Liderliği Zorunlu Kılıyor

Araştırmanın genel sonucu, agentic AI’nın henüz ana akım olmadığı ancak benimsemenin özellikle operasyonel mükemmellik ve rekabet avantajı arayan sektörlerde hızlandığı yönünde. Bu süreçte insan gözetiminin ve nihai karar yetkisinin pazarlık konusu olmadığı vurgulanıyor. Kıdemli liderlerden, her yapay zeka dağıtımına hesap verebilirlik ve denetlenebilirlik mekanizmalarını yerleştirmeleri, personel eğitimine yatırım yapmaları ve sağlam yönetişim çerçeveleri oluşturmaları bekleniyor. Düzenleme, eğitim ve şeffaflık, güvenli ve etkin kullanımın temel taşları olarak öne çıkıyor. Yaygın benimsemenin önümüzdeki bir ile üç yıl içinde gerçekleşmesi bekleniyor. Bu dönüşüme bugünden hazırlanan kuruluşların, agentic AI’nın sunduğu potansiyelden en yüksek faydayı sağlayarak rekabetçi avantaj elde etmeleri öngörülüyor.

araştırmanın tamamı için tıklayınız: https://www.moodys.com

Temel Özellikleri:

1. Otonomi: Agentic AI, belirli hedeflere ulaşmak için kendi başına hareket eder.
2. Karar Verme: Sadece analiz yapmakla kalmaz; eylem planları oluşturur ve uygular.
3. Öğrenme ve Adaptasyon: Ortam ve veri değiştikçe stratejisini güncelleyebilir.
4. İşbirliği: İnsan profesyonellerle veya diğer sistemlerle entegre şekilde çalışabilir, yani hem bağımsız hem artırılmış (augmented) görevler yürütebilir.

Kullanım Alanları:

• Finans ve bankacılık: Risk yönetimi, dolandırıcılık tespiti, otomatik portföy yönetimi.
• Sigorta: Poliçe inceleme, hasar değerlendirme, uyum süreçlerinin otomasyonu.
• Kurumsal iş süreçleri: Tekrarlayan ve rutin görevleri otomatikleştirerek insan kaynaklarını daha stratejik işlere yönlendirme.

Özetle, agentic AI insan gözetimiyle desteklenen, hem kendi başına hareket eden hem de profesyonellere yardımcı olan “akıllı ajanlar” olarak düşünülebilir.

Temel Özellikleri:

1. İçerik Üretimi: Mevcut verilerden yola çıkarak yeni, tutarlı ve yaratıcı içerikler üretir.
   • Örneğin: ChatGPT metin üretir, DALL·E resim üretir.
2. Öğrenme ve Tahmin: Büyük veri setlerinden öğrenir ve benzer kalıpları üretiminde kullanır.
3. Uyarlanabilirlik: Farklı formatlarda içerik üretmek üzere optimize edilebilir.

Kullanım Alanları:

• Metin ve içerik üretimi: Makale, rapor, e-posta, özet, hikaye.
• Görsel üretim: Reklam, tasarım, oyun ve medya içerikleri.
• Müzik ve ses: Jingle, müzik parçaları, sesli kitap veya konuşma sentezi.
• Yazılım ve veri: Kod üretimi, otomatik veri analizi veya test senaryoları oluşturma.