Yapay Zeka « Agentlar » Üzerinden Bize Geldiğinde Ona Ne kadar Güvenebiliriz?

• Daily hizmetlerde yapay zeka, aramada ve seçimde bize yardımcı olabilir. Yapay zeka ajanlarıyla bu yardım, devredebileceğimiz görevlere kadar uzanıyor.

• Ama eylem biçimlerini bilmediğimiz bu yeni siyah kutulara nasıl güvenebiliriz?

• Sunulan en iyi çözüm gerçekten tüketiciyi memnun eden çözüm mü olacak? Yoksa işletmenin « iyi anlaşılan » çıkarlarını « karşılayan » çözüm mü?

Daily hizmetlerde yapay zeka, aramada ve seçimde bize yardımcı olabilir. Yapay zeka ajanlarıyla bu yardım, devredebileceğimiz görevlere kadar uzanıyor.

Ama eylem biçimlerini bilmediğimiz bu yeni siyah kutulara nasıl güvenebiliriz?

Sunulan en iyi çözüm gerçekten tüketiciyi memnun eden çözüm mü olacak? Yoksa işletmenin « iyi anlaşılan » çıkarlarını « karşılayan » çözüm mü?

Bütçenize uygun bir ev aleti arıyorsunuz. Google’ı açıyorsunuz, tıpkı yüzlerce kez yaptığınız gibi, bir özet beliriyor; dikkat edilmesi gereken kriterler ve farklı seçeneklerle. Bunun için bir arama motorunu yapay zekaya başvurarak kullanmayı düşünmemiştiniz; basit bir sorgu yapmış olacağınızı düşünmiştiniz. Oysa, gerçekten bilmeden, yapay zeka zaten orada.

Çünkü Google, 22 Temmuz 2026’da Fransa’da « yapay zeka önizlemeleri » ve « yapay zeka modu »nun lansmanını duyurdu. İlkleri bazı sorgular için bağlantılarla desteklenen bir özet gösteriyor; ikincisi ise aramayı bir sohbet biçiminde sürdürmeye olanak tanıyor.

« AI’nin demokratikleşmesi »ndan söz etmek, yaşananları açıklamaya artık yetmiyor. Erişim genişliyor, ama en önemlisi araç bizim tarafımıza geliyor: zaten kullandığımız hizmetlerin içine giriyor. Aramalarımıza eşlik ettikten sonra, bazı görevleri üstlenmeyi teklif ediyor. Ona ne kadar yer ayırmaya hazırız?

Aramadan devredilen işe

AI artık sorularımıza cevap vermekle sınırlı değil. « Ajan » olarak adlandırılan bazı sistemler, dijital araçları kullanabilir ve bizim adımıza hareket edebilir; ister teklifleri aramak, ister bir formu doldurmak, ister bir siparişi hazırlamak olsun. Böylece kişisel bir ajan, bir arama motorundaki bir özete daha ileri gider. Dijital hizmetlerde hareket edebileceği araçlara sahiptir. Bu nedenle, bir yanıttan beklediğimiz sorudan öteye giderek bir görevi ona emanet edebiliriz.

Meta, eylül ayında tanıtılan Muse ile bu yola girdi. Şirkete göre bu ajan, birkaç uygulamada çalışabilir, bir yolculuğu veya bir alımı hazırlayabilir ve uygulama kapatıldıktan sonra işe devam edebilir. Önce Amerika Birleşik Devletleri’nde başlatılan Muse, kendi uygulaması Muse ve WhatsApp üzerinden erişilebilir. Uygulamanın karşısı, 20 Ekim 2026 itibarıyla Amerika Birleşik Devletleri’nde olumlu görünüyor: yirmi iki günde 5 milyondan fazla indirme ve ABD App Store’unda 5 üzerinden 4,9 puan.

Bir ev aleti satın almak için, bütçemize ve ihtiyaçlarımıza göre hangi kriterleri karşılaştırmamız gerektiğini bir asistandan isteyebiliriz. Gerekli erişimlere sahip bir ajan, o zaman teklifleri arayabilir, birkaç modeli göz önünde bulundurabilir ve siparişi hazırlayabilir. Yaptığı alımı onaylamak yeterli olur. Kazanılan zaman vaadi bu çözümü cazip kılıyor. Yine de ajanı bu çözümü bize önermeye yönlendiren seçimleri değerlendirebilmek gerekiyor.

Güven, devretmeyi mümkün kılar

Nous ne pouvons pas tout vérifier avant chaque décision, quelles que soient les circonstances d’un achat. Nous faisons donc confiance à des intermédiaires dont nous ne connaissons pas entièrement le fonctionnement. Dans un article de recherche publié en 2004, John D. Lee et Katrina A. Showment que la confiance joue un rôle dans le recours aux systèmes automatisés, surtout lorsque leur complexité nous empêche de bien les comprendre. Selon leur analyse, cette confiance devrait correspondre aux capacités réelles du système définies en tenant aussi compte de ses limites.

Ces travaux précèdent les IA génératives actuelles, mais la question se retrouve à nouveau posée de façon encore plus aiguë avec elles. Après avoir obtenu plusieurs réponses utiles à nos questions, nous pouvons avoir envie de confier davantage de missions à l’outil. Savoir résumer une documentation ne garantit pourtant pas de bien comparer des offres ou d’exécuter correctement une commande. À chaque nouvelle tâche demandée à l’agent IA, les conditions pour lui faire confiance devraient être réexaminées.

Cette question mérite d’autant plus d’être posée qu’une confusion peut venir troubler l’esprit de l’utilisateur. Habitué à recourir à Google ou à WhatsApp, il retrouve un environnement familier. Cela pourrait faciliter l’adoption de l’IA, quand bien même tous les utilisateurs ne lui accordent pas le même degré de confiance.

Who chooses the options?

Faire confiance à l’agent pour accomplir une tâche ne nous dit pas sur quels critères il choisit les produits qu’il recommande. Même si sa réponse est claire, quelles offres a-t-il examinées? Quelle importance a-t-il donnée au prix? A-t-il tenu compte de toutes nos contraintes?

2024 yılında sunulan bir deneyimde, Tobias Werner ve ortakları, katılımcıları bir sohbet yapay zekasıyla görüşükten sonra iki roman arasında seçim yapmaya davet etti. Yapay zeka, bu kitaplardan birini öne çıkarmakla görevlendirilmişti. Katılımcılar öne çıkarılan kitabı daha sık seçiyor; araç, sahte bir satıcının çıkarlarına hizmet ettiğine dair uyarıldıkları halde, yaklaşık %39’u bu etkileşim girişimini fark etmedi. Bu deney, Google ya da Meta’nın bugün kullanıcılarını bu şekilde yönlendirdiğini kesin olarak iddia etmeyi hiç mümkün kılmasa da, böyle bir şeyin mümkün olabileceğini gösteriyor.

Cevabın açıklığı, muhakemeyi izlemeyi kolaylaştırır; ancak karşılaştırmanın eksiksiz olup olmadığını söylemez. Arama motorları ve karşılaştırma siteleri bilgiyi zaten hiyerarşik olarak düzenliyordu. Sohbet tabanlı özetleme, bir seçimi yeniden düzenler ve yeniden ifade eder. Bir ajan ardından bu özete dayanarak eyleme geçebilir. Böylece cevabında öne çıkarılan teklif, bize satın almamız için önerilen teklif haline gelebilir.

Ticari modelini bilmek

Ancak bu sonuç, asistanı ya da ajanı sağlayan işletmenin çıkarlarına bakmayı zorunlu kilar. İşletme paradan nasıl kazanıyor? Ajanın ürünleri önerdiği satıcılarla ticari bağlantıları var mı? Bu bağlantılar, aldığımız tavsiyeler üzerinde etki yaratabilir mi? Hizmet bize seçmede ardından satın almada yardımcı olduğunda, finansmanı, tavsiyelerine nasıl bakabileceğimizle de ilgilidir.

Bir reklamın, iş birliğinin ya da komisyonun varlığı, bir cevabın yanlı olduğunu kanıtlamaya yetmez. Olası bir yönlendirme kanıtlanmalıdır. Muse için Meta, ajanın kişisel ortamından gelen konuşmaların ve verilerin reklam sistemleriyle paylaşılmadığını belirtiyor. Bu taahhüt, veri kullanımına ilişkindir. Tek başına, önerilerin bağımsızlığı sorusuna yanıt vermez.

Ticari çıkarlar önünde güven

Bir öneriden, ihtiyaçlarımıza, tercihlerimize ve bütçemize olabildiğince uyum sağlamasını bekleriz. Ancak aracıyı sağlayan işletmenin, bir cihazı satmaktan diğerini satmaktan daha fazla kazanması durumunda, ikinci ürün bize daha uygun olsa bile, ilk ürünü tercih etmesi lehine olabilir. Yapılan öneri son derece makul olmaya devam edebileceğinden, çıkarlarımız ile onların arasındaki hizalanmama zor tespit edilir.

Ticari manipülasyon riski, bu etkinin görünmez kaldığı anda ortaya çıkar. Ürünün niteliklerini uydurmaya gerek yoktur. Belirli avantajlar üzerinde ısrar etmek ya da daha uygun bir alternatifi atlamak yeterli olabilir. Öneri, alışveriş hedefine de hizmet ettiği halde, biz buna kişisel bir yardım olarak, karşılıklı etkileşimlerle edinilen güvenle karşılırdık. Bu senaryo bir riski betimler; söz edilen hizmetler için böyle bir uygulamanın var olduğu iddia edilmez.

Satın alma öncesinde onayımız istenmesi, tüm zorluğu ortadan kaldırmaz. Meta, Muse’un satın alımlar gibi bazı hassas işlemlerden önce bir izin talep ettiğini duyurur. Ancak siparişi kabul ettiğimiz anda, zaten seçilmiş bir teklif üzerinde karar veririz. Ayrıca karşılaştırma kriterlerini ve özellikle bir ticari bağlantının öneri üzerinde etkili olup olmadığını bilmemiz gerekir.

Bu arada mesele bireysel karardan daha ötesine geçer. Bu aracılar alışverişlerimizin yaygın aracılarına dönüşürse, önerileri belirli işletmelerin tüketicilere erişimini kolaylaştırırken, diğer tekliflerin daha az görünür kalması söz konusu olabilir. Ürün seçiminde ticari bağlantılara verilen yer, rekabet koşulları kadar seçim özgürlüğü de concerns. Bu bağlantılar konusundaki şeffaflık, tüketicilerin ve pazar aktörlerinin bu yeni aracıların rolünü incelemeleri için ilk koşuldur.

• intelligence artificielle (IA)
• économie

Yazar

1. Paris Dauphine – PSL Üniversitesi, Yönetişim ve Düzenleme Kürsüsü doktora öğrencisi, Paris Dauphine – PSL Üniversitesi

Paris Dauphine – PSL Üniversitesi, Yönetişim ve Düzenleme Kürsüsü doktora öğrencisi, Paris Dauphine – PSL Üniversitesi

Açıklama beyanı

Paul Favier, bu makaleden yararlanacak herhangi bir şirket veya kuruluş için çalışmamaktadır, danışmanlık yapmamaktadır, hissesi yoktur ve böyle bir fondan yararlanmamaktadır; akademik ataması dışında herhangi bir ilgili bağlantıyı da açıklamamıştır.

Ortaklar

Université Paris Dauphine, The Conversation FR üyesi olarak finansman sağlamaktadır.