Etken Yapay Zekâ (Agentic AI)

(AGENTIC AI) -- 1 of 46 -- ŞUBAT 2026 -- 2 of 46 -- Etken Yapay Zekâ (Agentic AI) 1 İÇİNDEKİLER Giriş / 3 1. Genel Olarak Etken Yapay Zekâ Sistemleri / 5 2. Etken Yapay Zekâ Sistemlerinde Yapay Zekâ Aracıları / 9 3. Etken Yapay Zekâ Sistemlerinin Potansiyel Kullanım Durumları / 17 4. Etken Yapay Zekâ Sistemlerinin Kullanımı ile İlişkili Potansiyel Riskler / 21 5. Etken Yapay Zekâ Sistemleri Bağlamında Kişisel Verilerin Korunmasına İlişkin Potansiyel Riskler / 25 6. Etken Yapay Zekâ Sistemleri Bağlamında Kişisel Verilerin Korunması Bakımından Dikkate Alınabilecek Hususlar / 34 Çalışmanın Hazırlanmasında Faydalanılan Kaynaklar / 41 -- 3 of 46 -- -- 4 of 46 --

Korunmasına İlişkin Potansiyel Riskler / 25 6. Etken Yapay Zekâ Sistemleri Bağlamında Kişisel Verilerin Korunması Bakımından Dikkate Alınabilecek Hususlar / 34 Çalışmanın Hazırlanmasında Faydalanılan Kaynaklar / 41 -- 3 of 46 -- -- 4 of 46 -- Etken Yapay Zekâ (Agentic AI) 3 Giriş Yapay Zekâ (YZ) teknolojilerindeki gelişmeler, dijital dönüşüm sürecinin önemli bileşenlerinden biri olarak bireylerin ve kuruluşların teknolojiyle etkileşim biçimlerini çok boyutlu şekilde etkilemektedir. Büyük veri setle- rinden faydalanarak tahminlerde bulunma, örüntüleri analiz etme, öneriler ortaya koyma ve karar alma süreçlerini destekleme gibi amaçlarla kullanılan YZ sistemleri; sağlık, eğitim, ulaşım, finans ve kamu hizmetleri dâhil olmak üzere çeşitli alanlarda farklı düzeylerde kazanımlar sunabilmektedir. Son yıllarda YZ alanında yaşanan gelişmeler, teknolojinin geliştirilme ve kullanım biçimlerinde niteliksel değişimleri beraberinde getirmiştir. Bu çerçevede öne çıkan Üretken YZ (ÜYZ) sistemleri, geleneksel YZ uygula- malarının ötesine geçerek, kullanıcı girdilerine dayalı şekilde metin, görsel, ses, video veya yazılım kodu gibi farklı formatlarda içerik sunabilmektedir. ÜYZ sistemleri, yalnızca içerik üretim kapasitesini artırmakla sınırlı kalma- yıp, mevcut iş süreçlerinin yeniden yapılandırılmasına ve farklı sektörlerde yenilikçi uygulamalar geliştirilmesine de imkân tanımaktadır. Bu yönüyle söz konusu sistemler, YZ’nin kullanım alanlarının genişlemesine ve yeni uygulama biçimlerinin ortaya çıkmasına katkı sunmaktadır. YZ alanındaki bu gelişmeler, belirli hedefler doğrultusunda çok adımlı süreçlerin yürütülmesi, farklı faaliyetlerin eş güdüm içerisinde ele alınma- sı ve koşullara bağlı uyarlamaların yapılması gibi hususları odağına alan sistem yaklaşımlarının değerlendirilmesini gündeme getirmiştir. Belirli hedeflere ulaşmak amacıyla çevresel koşulları değerlendirebilen, değişen -- 5 of 46 --

4 durumlara uyum sağlayabilen ve farklı düzeylerde otonom biçimde eylem başlatabilen bütünleşik yapılar olarak “Etken YZ” (Agentic AI)1 sistemleri bu bağlamda ele alınmaktadır. Etken YZ sistemleri, gelişim ve olgunlaşma sürecinde bulunan bir yak- laşım olarak, farklı kullanım durumlarında değişen düzeylerde otonomi sergileyebilmekte ve dış dünyada sonuç doğuran eylemlerle ilişkilendi- rilebilmektedir. Bu sistemlerin kullanımında bireylerin rolü, çoğu du- rumda doğrudan belirli görevlerin icrasından ziyade, sistem hedeflerinin belirlenmesi, yürütülen faaliyetlerin izlenmesi ve gerektiğinde sürece müdahale edilmesi gibi işlevler etrafında şekillenmektedir. Bu durum, Etken YZ sistemlerinin tasarımında ve kullanımında temel hak ve öz- gürlüklerle uyumun gözetilmesini ve bu sistemlerin insan merkezli bir yaklaşım çerçevesinde ele alınmasını gerekli kılmaktadır. Zira insan merkezli yaklaşım, teknolojik gelişmenin hız ve verimlilik hedefleri ile bireylerin mahremiyeti arasında denge kurulmasına hizmet eden bir ba- kış açısını yansıtmaktadır. Etken YZ sistemleri, bu sistemlerin bileşeni olarak faaliyet gösteren “YZ Aracıları” (AI Agents)2 vasıtasıyla farklı kullanım durumlarında çeşitli faydalar sunma potansiyeline sahip olmakla birlikte, bu sistemlerin tasar- lanması, yapılandırılması ve kullanıma alınması gibi süreçlerde dikkate alınması gereken birtakım riskleri de gündeme getirmektedir. Bu riskle- rin önemli bir bölümü, genel olarak YZ sistemleriyle ilişkilendirilen etik, hukuki ve toplumsal boyutlarla örtüşmekte ise de Etken YZ sistemlerinin 1 “Agentic AI” kavramı için “Eylemci YZ”, “Ajan Temelli YZ” veya “Ajanlı YZ” gibi farklı karşılıklar da kullanılabilmekle birlikte, söz konusu kavramın hedef yönelimli davranış sergileme ve eylem gerçekleştirme kapasitesini daha uygun biçimde yansıttığı değerlendirildiğinden, bu dokümanda “Etken YZ” ifadesi tercih edilmiştir.

kullanılabilmekle birlikte, söz konusu yapıların Etken YZ sistemleri içerisindeki işlevsel rolünü daha uygun biçimde yansıttığı değerlendirildiğinden, bu dokümanda “YZ Aracısı” ifadesi tercih edilmiştir.

Etken Yapay Zekâ (Agentic AI) 5 yapısal özellikleri, söz konusu risklerin ortaya çıkış biçimini ve etkilerini bazı yönlerden farklılaştırabilmektedir. Bu durum, Etken YZ sistemlerinin genel YZ tartışmalarından bütünüyle bağımsız olmamakla birlikte, birta- kım yönleriyle farklılaşan bir değerlendirme çerçevesi içerisinde ele alın- masını gerektirmektedir. Bu doküman; Etken YZ sistemlerinin ne olduğu, bu sistemlerde YZ Ara- cılarının hangi işlevleri yerine getirdiği, potansiyel kullanım durumları ve beraberinde getirebileceği risklere ilişkin genel bir değerlendirme sun- makta olup Etken YZ sistemlerinin yaşam döngüsü boyunca kişisel veri- lerin korunması açısından dikkate alınabilecek hususları genel hatlarıyla ele almak amacıyla hazırlanmıştır. 1. Genel Olarak Etken Yapay Zekâ Sistemleri YZ sistemleri ilk geliştirildikleri dönemde, çoğunlukla önceden tanımlı ve tekrarlayan nitelikteki belirli ve sınırlı görevleri yerine getirmek üzere tasarlanan yapılar olarak ele alınmıştır. Bununla beraber, zaman içerisinde bu sistemlerin kullanım alanlarının kademeli olarak genişlemesi ve daha karmaşık görevlerde uygulanmaya başlanması ile birlikte, YZ sistemle- rinin daha geniş bağlamlar içerisinde konumlandırıldığı, belirli hedefler çerçevesinde işlev gören ve bu hedeflere ulaşılmasına yönelik olarak ko- şullara bağlı farklı eylem seçeneklerini değerlendirebilen yaklaşımlara doğru bir yönelimin ortaya çıktığı görülmektedir. Bu yönelim doğrultusunda, hedefe yönelik ve görece otonom bir işleyiş sergileyebilen YZ sistemlerini tanımlamak üzere farklı kavramlar kul- lanılmakla birlikte, günümüzde bu kavramlar arasında özellikle “Etken YZ” (Agentic AI) kavramı öne çıkmaktadır. Etken YZ kavramına ilişkin olarak üzerinde uzlaşılmış tek bir tanım bulunmamakla birlikte, genel olarak bakıldığında bu kavram; belirli hedeflere ulaşmak amacıyla farklı -- 7 of 46 --

6 düzeylerde otonom biçimde davranabilen ve etkileşimde bulunabilen “YZ Aracıları”ndan (AI Agents) oluşan YZ sistemlerini ifade etmektedir3 . Bu çerçevede Etken YZ sistemleri, eylem gerçekleştirme süreçlerini sü- rekli ve adım adım insan yönlendirmesine ihtiyaç duymaksızın yürüte- bilmekte ve belirli görevlerin icrasının ötesinde, hedeflerin gerçekleşti- rilmesine odaklanan bir işleyiş sergilemektedir. Etken YZ sistemlerinde otonomi düzeyi, sistem hedefleri doğrultusunda belirli ölçüde kullanıcı girdisi gerektiren yapılardan, daha yüksek derecede otonom işleyiş sergi- leyen yapılara kadar uzanan bir çeşitlilik gösterebilmektedir. Bu sistemler, belirlenmiş hedef veya hedefler doğrultusunda yerine getirilmesi gereken görevleri tanımlayabilmekte, planlama süreçlerini yürütebilmekte ve de- ğişen koşullar altında bir hedefe nasıl ulaşılacağına ilişkin değerlendirme- lerde bulunarak sistem düzeyinde gerekli eylemleri belirleyip bu eylemleri koordine edebilmektedir. Bu kapsamda söz konusu sistemler, eylemleri önem ve aciliyet düzeylerine göre önceliklendirebilmekte ve eş zamanlı olarak birden fazla faaliyetin yürütülmesini koordine edebilmektedir4 . Bu bağlamda Etken YZ sistemleri, geleneksel/klasik YZ (conventional/ traditional AI) sistemlerinden, görevlerin ele alınma biçimi ve karar alma süreçlerinin kurgulanması bakımından farklılaşmaktadır. Geleneksel YZ sistemleri, çoğunlukla önceden tanımlanmış veri kümeleri ve kurallar çerçevesinde girdileri işleyerek belirli sonuçlar ortaya koymakta; buna karşılık hedefe yönelik görevlerin belirlenmesi, bu görevlere ilişkin plan- lamanın yapılması ve değişen koşullar altında eylem sıralamasının uyar- lanması gibi işlevler, sistemin tasarımına bağlı olarak görece sınırlı dü- zeylerde desteklenebilmektedir. Etken YZ sistemleri ise belirli hedefler 3 United Kingdom Government Digital Service: AI Insights: Agentic AI, (https:// www.gov.uk/government/publications/ai-insights/ai-insights-agentic-ai- html#what-is-agentic-ai).

(https://www.edps.europa.eu/system/files/2025-11/25-11-25_techsonar-2025-2026_ en.pdf), s. 1.

Etken Yapay Zekâ (Agentic AI) 7 doğrultusunda yerine getirilmesi gereken görevlerin belirlenmesine, bu görevlerin planlanmasına ve süreç boyunca eylem dizilerinin koşullara göre uyarlanmasına imkân tanıyabilen bir işleyiş ortaya koymaktadır. Do- layısıyla Etken YZ’nin, tek bir teknoloji türünden ziyade, geleneksel YZ sistemlerine kıyasla hedef yönelimliliğin, otonomi düzeyinin ve çevreyle etkileşim biçiminin daha belirgin olduğu sistemlerin tasarlanmasına yöne- lik bir yaklaşımı ifade ettiğini söylemek mümkündür. Şekil 1: Etken YZ Sistemlerini Karakterize Eden Temel Unsurlar5 Bu çerçevede, Etken YZ sistemleri ile etken olmayan YZ sistemleri ara- sında ayrım yapılmasına imkân tanıyabilecek bazı kullanım senaryoları- nın aşağıda yer aldığı şekliyle belirtilmesi mümkündür6: Etken YZ sistemlerine örnek olarak; 5 Centre for Information Policy Leadership (CIPL): Agentic AI: Fostering Responsible and Beneficial Development and Adoption, (https://www.informationpolicycentre.com/uploads/5/7/1/0/57104281/cipl_ agentic_ai_white_paper_nov25.pdf), s. 6. Şekilde yer verilen unsurlar, Etken YZ sistemlerini karakterize eden temel unsurlar arasında yer almakta olup bu unsurlar, söz konusu sistemlerin kullanım durumlarına göre çeşitlendirilebilmektedir. 6 Belirtilen örnekler, sistemlerin fiili işleyiş biçimleri esas alınarak sınıflandırılmış olup, benzer işlevleri yerine getiren sistemlerin, farklı tasarım ve uygulama tercihleri doğrultusunda etken veya etken olmayan nitelik kazanması mümkün olabilmektedir. -- 9 of 46 --

6 Belirtilen örnekler, sistemlerin fiili işleyiş biçimleri esas alınarak sınıflandırılmış olup, benzer işlevleri yerine getiren sistemlerin, farklı tasarım ve uygulama tercihleri doğrultusunda etken veya etken olmayan nitelik kazanması mümkün olabilmektedir. -- 9 of 46 -- Etken Yapay Zekâ (Agentic AI) 8 ↘ Trafik ve hava koşullarını dikkate alarak teslimat rotalarını yeniden planlayan bir lojistik yönetim sistemi, ↘ Olağan dışı ağ etkinlikleri tespit edildiğinde, duruma ilişkin değerlen- dirmeler doğrultusunda uygun önlemlerin uygulanmasına imkân tanı- yan ve erişimin kısıtlanmasına yönelik süreçleri yürütebilen bir siber güvenlik sistemi, ↘ Birden fazla takvimi ve önceliği eş zamanlı olarak değerlendirerek programdaki çakışmaları yöneten ve toplantı planlamasını koordine eden bir planlama sistemi, ↘ Kullanıcı etkileşimleri doğrultusunda destek taleplerini yöneten, so- runların uzaktan giderilmesine imkân tanıyarak ilk müdahaleyi yapan veya teknisyenler için ayrıntılı destek kayıtları oluşturarak zaman ya da adım planlaması yapan bir müşteri destek sistemi verilebilir. Buna karşılık; ↘ Geçmiş işe alım verilerini kullanarak adayları belirli ölçütler doğrul- tusunda sıralayan bir özgeçmiş tarama aracı, ↘ İstenmeyen e-postaları sınıflandırmaya yönelik bir spam filtresi, ↘ Yazım sırasında kelime veya ifade önerileri sunan bir metin destek sistemi, ↘ Belirli eşik değerler aşıldığında atılması gereken adımlarla ilgili temel önerileri bildirim hâlinde ileten bir araç, ↘ Çalışanların sorularına şirket el kitabı içeriğinden alıntılarla cevap ve- ren bir sohbet botu ise etken olmayan YZ sistemlerine örnek teşkil etmektedir. Zira bu tür sis- temler, çoğunlukla girdilere yanıt vermekle sınırlı bir işleyiş sergilemekte olup, genel olarak çok adımlı hedef takibini ve değişen koşullara göre ey- lemlerin uyarlanmasını içeren bir yapıya sahip değildir. -- 10 of 46 --

ise etken olmayan YZ sistemlerine örnek teşkil etmektedir. Zira bu tür sis- temler, çoğunlukla girdilere yanıt vermekle sınırlı bir işleyiş sergilemekte olup, genel olarak çok adımlı hedef takibini ve değişen koşullara göre ey- lemlerin uyarlanmasını içeren bir yapıya sahip değildir. -- 10 of 46 -- Etken Yapay Zekâ (Agentic AI) 9 2. Etken Yapay Zekâ Sistemlerinde Yapay Zekâ Aracıları Etken YZ sistemlerinin karar alma ve eylem süreçleri, “YZ Aracıları” (AI Agents) olarak adlandırılan yazılımsal bileşenler aracılığıyla gerçekleş- tirilmektedir. Literatürde kimi zaman “Etken YZ” ile “YZ Aracısı” kav- ramlarının birbirinin yerine kullanıldığı görülmekle birlikte, sistem düze- yindeki işleyişin ortaya konulabilmesi açısından, söz konusu kavramların birbirinden ayırt edilmesi önem taşımaktadır. Bu çerçevede genel olarak “YZ Aracısı”; çevresini algılayan, bu çevreye tepki veren ve belirlenen hedefler doğrultusunda eylemlerde bulunan oto- matik bir etmen şeklinde tanımlanabilmektedir7 . Bu kapsamda YZ Aracı- ları, sistem hedeflerine ulaşmak amacıyla karar alabilen ve tek başına veya diğer YZ Aracıları ile iş birliği içerisinde faaliyet gösterebilen uzmanlaş- mış yazılım bileşenleri 8 olarak nitelendirilmekte iken; Etken YZ sistemleri ise YZ Aracılarını belirli hedefler doğrultusunda konumlandıran, bu ara- cıların görevlerini, yetki sınırlarını ve aralarındaki etkileşim biçimlerini yöneten ve karar alma ile eylem süreçlerini daha geniş bir sistem mantığı içerisinde ele alan yapılar olarak değerlendirilmektedir. Etken YZ sistemleri ile YZ Aracıları arasındaki ilişkinin, bir res- toranın baş şefi ile mutfakta farklı görevlerden sorumlu aşçılar arasındaki ilişkiye benzetilmesi mümkündür. Bu kapsamda baş 7 International Organization for Standardization (ISO): ISO/IEC 22989:2022-Information Technology-Artificial Intelligence-Artifical Intelligence Concepts and Terminology, (https://www.iso.org/standard/74296.html), s. 1. 8 United Kingdom Government Digital Service, AI Insights: Agentic AI, (https:// www.gov.uk/government/publications/ai-insights/ai-insights-agentic-ai- html#what-is-agentic-ai). -- 11 of 46 --

7 International Organization for Standardization (ISO): ISO/IEC 22989:2022-Information Technology-Artificial Intelligence-Artifical Intelligence Concepts and Terminology, (https://www.iso.org/standard/74296.html), s. 1. 8 United Kingdom Government Digital Service, AI Insights: Agentic AI, (https:// www.gov.uk/government/publications/ai-insights/ai-insights-agentic-ai- html#what-is-agentic-ai). -- 11 of 46 -- Etken Yapay Zekâ (Agentic AI) 10 şef; menünün belirlenmesi, hazırlık ve servis süreçlerinin plan- lanması ve mutfağın genel işleyişinin koordine edilmesi sure- tiyle, misafirlere sunulacak yemek deneyimine ilişkin bütüncül bir hedef doğrultusunda şekillenen işleyişi genel hatlarıyla gözetmektedir. Bu rol, tek tek yemeklerin hazırlanmasından ziyade, ortaya çıkan sonucun tutarlılığı ve önceden belirlenen kalite hedefleriyle uyumlu olmasına yöneliktir. Benzer şekilde Etken YZ sistemleri, önceden tanımlı hedefler ve kısıtlar çerçevesinde birden fazla YZ aracısının faaliyetle- rini koordine edebilecek şekilde tasarlanmakta, koşullardaki değişimlere uyum sağlamakta ve bu doğrultuda karar alma süreçlerinin yürütülmesine imkân tanıyarak karmaşık iş akış- larının yönetilmesini mümkün kılmaktadır. Buna karşılık her bir YZ Aracısı, mutfakta belirli görevleri ye- rine getiren aşçılar gibi, tanımlı parametreler çerçevesinde belirli işlevleri yerine getirmek üzere tasarlanmış olup, bir sürecin belirli bir aşamasının yürütülmesi veya belirli bir ope- rasyonel görevin otomatikleştirilmesi gibi görece dar kap- samlı görevleri üstlenmektedir. Bu bağlamda YZ Aracıları tek başlarına işlevsel olmakla birlik- te, bir Etken YZ sisteminin parçası olarak eş güdüm içerisinde çalıştıklarında daha kapsamlı ve karmaşık hedeflerin sistema- tik biçimde gerçekleştirilmesine imkân tanıyabilmektedir. -- 12 of 46 --

samlı görevleri üstlenmektedir. Bu bağlamda YZ Aracıları tek başlarına işlevsel olmakla birlik- te, bir Etken YZ sisteminin parçası olarak eş güdüm içerisinde çalıştıklarında daha kapsamlı ve karmaşık hedeflerin sistema- tik biçimde gerçekleştirilmesine imkân tanıyabilmektedir. -- 12 of 46 -- Etken Yapay Zekâ (Agentic AI) 11 YZ Aracıları, belirlenen hedefler doğrultusunda çevreleriyle sürekli bir etkileşim içerisinde faaliyet gösterebilmektedir. Bu etkileşim, YZ Aracı- sının çevreden aldığı girdiler doğrultusunda eylemlerde bulunması ve bu eylemler aracılığıyla çevreyi etkilemesi esasına dayanan temel bir algıla- ma-eylem döngüsü çerçevesinde ele alınabilmektedir. Şekil 2: Bir YZ Aracısı ile Çevresi Arasındaki Temel Algılama-Eylem Döngüsü9 Bu doğrultuda bir YZ Aracısı, sensörler ve aktüatörler aracılığıyla çev- resiyle etkileşime girerek belirlenen hedeflere ulaşma olasılığını artırma- ya yönelik eylemlerde bulunmaktadır. Bu bağlamda çevreler, üstlenilen görevin niteliğine bağlı olarak farklı özellikler gösterebilmekte olup, söz konusu özellikler, problem çözme sürecinin karmaşıklık düzeyini doğru- dan etkileyebilmektedir10 . Bu kapsamda YZ Aracıları tarafından yürütülen süreçler, somut duruma göre farklı karmaşıklık düzeylerinde gerçekleşe- bilmektedir11 . 9 ISO, ISO/IEC 22989:2022, s. 18. 10 ISO, ISO/IEC 22989:2022, s. 18. 11 YZ Aracıları, karar alma mekanizmaları ve çevreyle etkileşim biçimleri bakımından farklı türler altında ele alınabilmekte olup bu kapsamda, “basit refleks aracılar” (simple reflex agents), “model tabanlı refleks aracılar” (model-based reflex agents), “hedef tabanlı aracılar” (goal-based agents) ve “fayda tabanlı aracılar” (utility-based agents) gibi farklı sınıflandırmalara yer verilmektedir. -- 13 of 46 --

aracılar” (simple reflex agents), “model tabanlı refleks aracılar” (model-based reflex agents), “hedef tabanlı aracılar” (goal-based agents) ve “fayda tabanlı aracılar” (utility-based agents) gibi farklı sınıflandırmalara yer verilmektedir. -- 13 of 46 -- Etken Yapay Zekâ (Agentic AI) 12 Örnek 1: Kullanıcı, belirli tarihler arasında gerçekleştireceği bir iş seyahati için YZ Aracısından destek talep etmektedir. Bu doğrultuda kullanıcı, “15 Haziran’da Brüksel’e seyahat edece- ğim ve 5 Temmuz’a kadar orada kalacağım. Seyahatimi orga- nize etmeme yardımcı ol.” şeklinde bir istekte bulunmaktadır. YZ Aracısı, doğal dilde iletilen bu talebi algılayarak öncelikle kullanıcının talebi doğrultusunda temel hedefi tespit etmek- te ve bu hedefe ulaşmak için yerine getirilmesi gereken gö- revleri belirlemeye yönelik bir değerlendirme yapmaktadır. Bu kapsamda YZ Aracısı; kullanıcının toplantı programı ve takvim bilgilerinin dikkate alınması, bu bilgiler doğrultusun- da konaklamanın yapılacağı lokasyonun belirlenmesi, uygun ulaşım ve konaklama seçeneklerinin tespit edilmesi ile oluş- turulan planın kullanıcıya sunulması gibi aşamaları içeren bir planlama süreci yürütmektedir. Planlama aşamasının ardından YZ Aracısı, belirlenen görev- leri uygulamaya geçirmek üzere ilgili araçlardan yararlan- maktadır. Bu çerçevede YZ Aracısı, seyahat süresince ger- çekleştirilecek toplantıların zaman ve mekânsal dağılımını tespit etmek amacıyla kullanıcının takvim ve e-posta kayıtla- rından yararlanmakta, kullanıcının çalıştığı kurum tarafından Bahse konu YZ Aracısı türlerine ilişkin detaylı açıklamalar ve örnekler için bkz. World Economic Forum (WEF): Navigating the AI Frontier: A Primer on the Evolution and Impact of AI Agents, (https://reports.weforum.org/docs/WEF_ Navigating_the_AI_Frontier_2024.pdf), s. 11. -- 14 of 46 --

rından yararlanmakta, kullanıcının çalıştığı kurum tarafından Bahse konu YZ Aracısı türlerine ilişkin detaylı açıklamalar ve örnekler için bkz. World Economic Forum (WEF): Navigating the AI Frontier: A Primer on the Evolution and Impact of AI Agents, (https://reports.weforum.org/docs/WEF_ Navigating_the_AI_Frontier_2024.pdf), s. 11. -- 14 of 46 -- Etken Yapay Zekâ (Agentic AI) 13 belirlenmiş seyahat politikasına ilişkin dokümantasyonu dik- kate almakta ve bu doğrultuda uygun ulaşım ile konaklama seçeneklerini belirlemek üzere ilgili rezervasyon platformla- rından faydalanmaktadır. YZ Aracısı, bu süreç sonunda oluşturduğu seyahat planını kullanıcının onayına sunmakta ve onayın alınmasının ardın- dan ulaşım ve konaklama rezervasyonlarını gerçekleştirerek seyahat organizasyonunu tamamlamaktadır. Örnek 2: Bir YZ Aracısından, belirli bir konferansın organi- ze edilmesi talep edilmektedir. YZ Aracısı, bu talebi aldıktan sonra öncelikle konferansın temel gereksinimlerini belirleme- ye yönelik bir değerlendirme süreci yürütmektedir. Bu de- ğerlendirme kapsamında; etkinliğin büyüklüğü, süresi, bütçe kısıtları ve katılımcı profili gibi unsurlar dikkate alınmaktadır. Ardından YZ Aracısı, belirlenen bu gereksinimlere uygun mekân seçeneklerini araştırmakta ve bu seçeneklerin erişile- bilirliğini, kapasitesini ve uygunluk durumunu incelemektedir. Belirlenen ölçütleri karşılayan alternatifler arasından seçim yapılabilmesi amacıyla farklı seçenekleri karşılaştırmakta ve elde edilen ara çıktılar doğrultusunda planlama sürecini gün- celleyebilmektedir. -- 15 of 46 --

bilirliğini, kapasitesini ve uygunluk durumunu incelemektedir. Belirlenen ölçütleri karşılayan alternatifler arasından seçim yapılabilmesi amacıyla farklı seçenekleri karşılaştırmakta ve elde edilen ara çıktılar doğrultusunda planlama sürecini gün- celleyebilmektedir. -- 15 of 46 -- Etken Yapay Zekâ (Agentic AI) 14 Bu süreçte YZ Aracısı, doğrudan bir eylemde bulunmadan önce olası adımları değerlendirerek problem alanını yapılandırmakta ve hangi eylemlerin hangi sırayla gerçekleştirilmesi gerektiğine ilişkin bir plan oluşturmaktadır. Planlama aşamasının tamamlan- masının ardından ise belirlenen adımlar doğrultusunda gerekli eylemlerin gerçekleştirilmesini sağlayarak konferans organizas- yonuna ilişkin sürecin yürütülmesine katkı sunmaktadır. Görev kapsamının genişlediği, farklı uzmanlık alanlarının devreye girdiği ve birden fazla hedefin paralel şekilde yönetilmesinin gerekli olduğu du- rumlarda, tek bir YZ Aracısının karar alma, planlama ve eylem yürütme kapasitesi yetersiz kalabilmektedir. Bu noktada, karmaşık hedeflerin ger- çekleştirilmesine yönelik olarak birden fazla YZ Aracısının birlikte çalıştı- ğı “Çoklu YZ Aracısı sistemleri” (Multi-agent systems) karşımıza çıkmak- tadır. Bu sistemler, ortak görev ve hedeflerin gerçekleştirilmesi amacıyla birden fazla YZ Aracısının görev paylaşımı ve eş güdüm çerçevesinde, et- kileşim içerisinde faaliyet gösterdiği yapılar olarak değerlendirilmektedir. Bu yapılarda yer alan her bir YZ Aracısı, genellikle kendi yetenekleri, bil- gi alanları ve karar alma süreçleri doğrultusunda uzmanlaşmış olup, de- ğişen düzeylerde otonom biçimde faaliyet gösterebilmektedir. Bu sayede YZ Aracıları görevleri paralel şekilde yerine getirebilmekte, birbirleriyle iletişim kurabilmekte ve karmaşık çevresel koşullardaki değişikliklere uyum sağlayabilmektedir. Çoklu YZ Aracısı sistemlerinin mimarisi ise sistemden beklenen çıktılar, görevlerin niteliği ve sürece dâhil olan YZ Aracılarının hedefleri doğrultusunda şekillenmekte olup, bu kapsamda farklı yaklaşımlar söz konusu olabilmektedir12 . 12 WEF, Navigating the AI Frontier: A Primer on the Evolution and Impact of AI Agents, s. 14.

sistemden beklenen çıktılar, görevlerin niteliği ve sürece dâhil olan YZ Aracılarının hedefleri doğrultusunda şekillenmekte olup, bu kapsamda farklı yaklaşımlar söz konusu olabilmektedir12 . 12 WEF, Navigating the AI Frontier: A Primer on the Evolution and Impact of AI Agents, s. 14. -- 16 of 46 -- Etken Yapay Zekâ (Agentic AI) 15 Bu tür yapılarda, karmaşık görevlerin daha küçük alt görevlere ayrılarak ele alınabilmesi ve bu görevlerin farklı YZ Aracıları arasında dağıtılabil- mesi, sistemlerin ölçeklenebilirliği ve esnekliği bakımından işlevsel so- nuçlar ortaya koyabilmektedir. Görevlerin eş güdüm içerisinde ve paralel biçimde yürütülmesi, karmaşık iş akışlarının daha sistematik şekilde yö- netilmesine ve süreçlerin daha kısa sürede tamamlanmasına imkân tanı- yabilmektedir. Bunun yanı sıra, ihtiyaçlara bağlı olarak sisteme yeni YZ Aracıları eklenebilmesi veya mevcut YZ Aracılarının devre dışı bırakıla- bilmesi, bu tür sistemlerin değişen görev gereksinimlerine ve operasyonel koşullara uyum sağlayabilen bir mimari sunmasını mümkün kılmaktadır. Örnek 3: Bir araştırma konusuna ilişkin destek sağlamak ama- cıyla tasarlanmış bir sistemde, birden fazla YZ Aracısı farklı iş- levleri üstlenerek eş güdüm içerisinde faaliyet göstermektedir. Bu tür bir yapıda; ↘ Birinci YZ Aracısı, araştırma konusu ile ilgili belge ve veri kaynaklarını tespit etmekte ve gerekli içerikleri temin et- mektedir. ↘ İkinci YZ Aracısı, temin edilen belgelerin içeriğini analiz et- mekte ve konu bakımından ilgili bilgileri ayıklamaktadır. ↘ Üçüncü YZ Aracısı, analiz edilen bilgileri bir araya getirerek özetlemekte ve araştırma amacına uygun şekilde yapılan- dırmaktadır. Bu süreç içerisinde, analiz edilen içeriklerin kapsamı veya ni- teliği doğrultusunda ek bilgi ihtiyacının ortaya çıkması hâ- linde, belirlenen hedef doğrultusunda ek araştırma görevleri -- 17 of 46 --

özetlemekte ve araştırma amacına uygun şekilde yapılan- dırmaktadır. Bu süreç içerisinde, analiz edilen içeriklerin kapsamı veya ni- teliği doğrultusunda ek bilgi ihtiyacının ortaya çıkması hâ- linde, belirlenen hedef doğrultusunda ek araştırma görevleri -- 17 of 46 -- Etken Yapay Zekâ (Agentic AI) 16 tanımlanabilmekte ve elde edilen ara çıktılar esas alınarak gö- revlerin sırası veya kapsamı gereksinimlere bağlı olarak gün- cellenebilmektedir. Farklı YZ Aracıları tarafından ortaya konulan çıktılar, belirlenen araştırma konusu çerçevesinde bir araya getirilerek kullanıcıya tek bir sonuç seti hâlinde sunulmaktadır. Örnek 413 : Akıllı bir şehirde, Çoklu YZ Aracısı sistemi, “Araç- tan Her Şeye” (Vehicle-to-Everything, V2X)14 iletişimini kul- lanarak trafik akışının gerçek zamanlı olarak yönetilmesine imkân tanımakta ve araçların diğer araçlar, yayalar ve yol alt- yapısı ile etkileşim kurmasını sağlamaktadır. Bu yapı içerisinde her bir trafik sinyali, yakınlardaki sinyaller, toplu taşıma sistemleri, acil durum hizmetleri ve otopark hiz- metleriyle iletişim kurarak müsaitlik durumunu kontrol eden bir YZ Aracısı tarafından kontrol edilmektedir. 13 WEF, Navigating the AI Frontier: A Primer on the Evolution and Impact of AI Agents, s. 15. 14 “Araçtan Her Şeye” (Vehicle-to-Everything, V2X); araçların diğer araçlarla (V2V), yayalar ve bisikletliler gibi diğer yol kullanıcılarıyla (V2P) ve yol kenarı altyapısıyla (V2I) iletişim kurmasını sağlayan bir teknolojidir. Bu iletişim, göreli hız, konum ve diğer verilerin sürekli olarak karşılıklı şekilde değişimini sağlayan V2X cihazları aracılığıyla gerçekleştirilmektedir. Bkz. U.S. Department of Transportation: Vehicle-to-Everything (V2X) Communications: Quick Glance at Benefits and Costs from V2X Use Cases, (https://www.itskrs.its.dot.gov/success- strategies/snapshot/vehicle-everything-v2x-communications). -- 18 of 46 --

V2X cihazları aracılığıyla gerçekleştirilmektedir. Bkz. U.S. Department of Transportation: Vehicle-to-Everything (V2X) Communications: Quick Glance at Benefits and Costs from V2X Use Cases, (https://www.itskrs.its.dot.gov/success- strategies/snapshot/vehicle-everything-v2x-communications). -- 18 of 46 -- Etken Yapay Zekâ (Agentic AI) 17 Kendi YZ Aracısı sistemleri ile donatılmış araçlar hız, konum ve yol koşulları gibi verileri paylaşarak yol güvenliğini, trafik verimliliğini ve enerji kullanımını iyileştirmeye yönelik koordi- neli eylemlerin gerçekleştirilmesine imkân tanımaktadır. Bu kapsamda, örneğin bir kaza meydana gelmesi durumun- da, YZ Aracıları trafiği yeniden yönlendirebilmekte, sinyal za- manlarını ayarlayabilmekte, acil durum hizmetlerini bilgilen- direbilmekte ve bölgeden kaçınılması için araçlar ve yayalar ile iletişim kurabilmektedir. Tüm bunlar, kullanım durumuna ve sistemin tasarımına bağlı olarak asgari düzeyde insan mü- dahalesiyle gerçekleştirilebilmektedir. Bu bağlamda sistem, gerçek zamanlı koşullara dinamik şekilde uyum sağlayarak trafik akışını optimize edebilmekte, yol güvenliğini geliştire- bilmekte ve enerji tüketimini azaltabilmektedir. 3. Etken Yapay Zekâ Sistemlerinin Potansiyel Kullanım Durumları Etken YZ sistemlerine ilişkin uygulamalar gelişim sürecinde olup, bu sis- temlerin işleyiş biçimleri ve uygulama yaklaşımları, üstlenilen görevlerin niteliği ve kullanım durumlarının özellikleri çerçevesinde farklılık göste- rebilmektedir. Bu çerçevede Etken YZ sistemlerinin hangi durumlarda ve hangi koşullar altında işlevsel sonuçlar ortaya koyabildiğine ilişkin de- ğerlendirmelerin yapılması, yürütülen süreçlerin gerektirdiği karar alma yapılarının niteliği ile yakından ilişkilidir. Bu doğrultuda Etken YZ sistemlerinin bir bileşeni olarak YZ Aracıları, farklı düzeylerde işlevsellik sunabilmekte olup, bu bileşenlerin kullanımı; -- 19 of 46 --

18 yürütülen görevlerin kapsamı, karar alma süreçlerinin karmaşıklığı ve duruma özgü değerlendirme ihtiyacının düzeyi ile bağlantılıdır. Zira bazı durumlarda, önceden belirlenmiş iş akışları ve sınırlı değerlendirme me- kanizmaları çerçevesinde çalışan YZ çözümleri yeterli olabilmekte iken; daha değişken, çok adımlı ve bağlamsal değerlendirme gerektiren süreç- lerde, önceden tanımlı hedefler doğrultusunda değerlendirme ve eylem kapasitesi daha yüksek sistem yaklaşımları öne çıkabilmektedir. Örneğin müşteri destek hizmetleri bağlamında, ağırlıklı olarak standart ve tekrar eden taleplerin söz konusu olduğu durumlarda, önceden tanımlı bilgilere dayalı yanıtlar üreten YZ uygulamaları işlevsel sonuçlar ortaya koyabilmektedir. Bu kapsamda sipariş takibi, iade prosedürleri veya adres güncellemeleri gibi öngörülebilir taleplerin yoğunlukta olduğu senaryo- larda, karmaşık karar alma mekanizmalarına veya çok adımlı yapıların devreye alınmasına duyulan ihtiyaç sınırlı kalabilmektedir. Buna karşılık, müşteri geçmişinin dikkate alınmasını, farklı veri kaynakları arasında iliş- kilendirme yapılmasını ve duruma özgü alternatiflerin değerlendirilmesini gerektiren daha karmaşık destek taleplerinde, yanıt üretmenin ötesinde ilgili verilere erişim sağlayabilen, farklı eylem seçeneklerini değerlendi- rebilen ve belirlenen adımlar doğrultusunda eylemlerin yürütülmesine im- kân tanıyabilen Etken YZ sistemleri ön plana çıkabilmektedir. Bu çerçe- vede Etken YZ sistemleri, daha yüksek düzeyde bağlamsal değerlendirme ve eylem kapasitesi gerektiren durumlar bakımından uygun bir yaklaşım olarak değerlendirilebilirken; görece öngörülebilir ve standart nitelikteki talepler açısından ise daha sınırlı işlevsellik sunan YZ çözümleri yeterli olabilmektedir.

ele alınabileceğinin, bu sistemlerin potansiyel kullanım alanları üzerinden şu şekilde örneklendirilmesi mümkündür15: 15 Belirtilen kullanım alanları, hâlihazırda sınırlı uygulamaları bulunan, pilot nitelikte olan veya kavramsal düzeyde tartışılan durumları da içermektedir.

Etken Yapay Zekâ (Agentic AI) 19 Araştırma ve Geliştirme Süreçleri: Etken YZ sistemleri, araştırma ve geliştirme süreçlerinde bilgi tarama, veri toplama ve elde edilen çıktılara yönelik analizler gerçekleştirme gibi faaliyetler aracılığıyla araştırmacıların çalışma süreçlerini destekleyebilmektedir. Bu sistem- ler, farklı araştırma görevlerinin eş güdüm içerisinde yürütülmesine imkân tanıyarak, literatürdeki güncel çalışmaların izlenmesi, bulgu- ların bir arada değerlendirilmesi ve araştırma sürecinin belirli hedef- ler doğrultusunda yapılandırılması gibi aşamalarda işlevsel katkılar sunabilmektedir. Bu çerçevede Etken YZ sistemleri, özellikle çok adımlı ve farklı veri kaynaklarının birlikte ele alınmasını gerektiren araştırma süreçlerinde, planlama ve koordinasyon ihtiyacının arttığı durumlar bakımından uygun bir destekleyici yaklaşım olarak değer- lendirilebilmektedir. Müşteri Destek Süreçleri: Etken YZ sistemleri, müşteri hizmetle- ri alanında kullanıcılarla etkileşim kurmanın ötesinde, destek süreç- lerinin belirli hedefler doğrultusunda yönetilmesine katkı sunabilen yapılar olarak değerlendirilebilmektedir. Bu kapsamda söz konusu sistemler, belirli göstergeler çerçevesinde memnuniyet düzeyine veya hizmetten ayrılma ihtimaline ilişkin değerlendirmeler yürütebilmek- te ve bu değerlendirmelere bağlı olarak bilgilendirme, yönlendirme veya destek süreçlerini başlatabilmektedir. Bununla birlikte, önceden tanımlanmış ölçütler çerçevesinde insan değerlendirmesini gerektirdi- ği kabul edilen ya da otomatik olarak çözümlenemeyen durumlarda, sürecin insan temsilcilere devredilmesi suretiyle hibrit bir işleyişin sürdürülmesi mümkün olabilmektedir. Finans ve Yatırım Süreçleri: Etken YZ sistemleri, finans ve yatı- rım hizmetleri alanında, piyasa verilerinin sürekli olarak izlenmesini ve bu veriler doğrultusunda değişen koşullara uyum sağlayabilecek değerlendirmelerin yapılmasını destekleyen yapılar olarak kullanıla- bilmektedir. Bu kapsamda söz konusu sistemler; piyasa hareketleri, -- 21 of 46 --

rım hizmetleri alanında, piyasa verilerinin sürekli olarak izlenmesini ve bu veriler doğrultusunda değişen koşullara uyum sağlayabilecek değerlendirmelerin yapılmasını destekleyen yapılar olarak kullanıla- bilmektedir. Bu kapsamda söz konusu sistemler; piyasa hareketleri, -- 21 of 46 -- Etken Yapay Zekâ (Agentic AI) 20 düzenleyici çerçevedeki güncellemeler veya yatırım hedeflerindeki değişiklikler dikkate alınarak portföylerin yeniden dengelenmesine ya da yatırım stratejilerinin belirlenmesine ilişkin kararlar oluşturabil- mektedir. Bunun yanı sıra Etken YZ sistemleri, uyum ve risk yöneti- mi süreçleri çerçevesinde finansal işlemlerde olağan dışı örüntülerin tespit edilmesi ve risklerin azaltılmasına yönelik değerlendirmeler sunabilmektedir. Sağlık Alanında Karar Destek Süreçleri: Etken YZ sistemleri, sağ- lık hizmetleri alanında tanı ve tedavi süreçlerine ilişkin değerlendir- melerin desteklenmesi yoluyla, özellikle karmaşık vakalarda klinik karar alma süreçlerine katkı sunabilen yapılar olarak ele alınabilmek- tedir. Bu kapsamda, birden fazla YZ Aracısının birlikte çalıştığı Çoklu YZ Aracısı sistemleri aracılığıyla farklı uzmanlık alanlarını yansıtan değerlendirmelerin bir araya getirilmesi ve mevcut klinik verilerin bü- tüncül şekilde ele alınması mümkün olabilmektedir. Bu bağlamda söz konusu sistemler, klinik karar alma süreçlerinde sağlık mensuplarının değerlendirmelerini destekleyici nitelikte kullanılabilmektedir. Olay Müdahalesi ve Yönetim Süreçleri: Etken YZ sistemleri, bir güvenlik açığı veya insan kaynaklı hata sonucunda bir olay meydana geldiğinde, olayın kapsamı ve olası etkilerinin değerlendirilmesine yönelik analizlerin yürütülmesini destekleyebilmektedir. Bu kapsam- da söz konusu sistemler, ilgili paydaşların bilgilendirilmesi, müdahale adımlarının önceliklendirilmesi ve olaylara daha kısa süre içerisinde yanıt verilmesine yönelik süreçlerin koordinasyonunun desteklenme- sine katkı sunabilmektedir. Bunun yanı sıra Etken YZ sistemleri, olay- ların nedenlerine ilişkin değerlendirmelerin ele alınması ve benzer durumların tekrarının önlenmesine yönelik tedbirlerin belirlenmesine destek sağlamak suretiyle olay yönetimi süreçlerinin daha sistematik biçimde yürütülmesine yardımcı olabilmektedir.

ların nedenlerine ilişkin değerlendirmelerin ele alınması ve benzer durumların tekrarının önlenmesine yönelik tedbirlerin belirlenmesine destek sağlamak suretiyle olay yönetimi süreçlerinin daha sistematik biçimde yürütülmesine yardımcı olabilmektedir. -- 22 of 46 -- Etken Yapay Zekâ (Agentic AI) 21 4. Etken Yapay Zekâ Sistemlerinin Kullanımı ile İlişkili Potansiyel Riskler Etken YZ sistemleri, farklı kullanım durumlarında çeşitli faydalar sunma potansiyeline sahip olmakla birlikte, bu sistemlerin tasarlanması, yapılan- dırılması ve kullanılmasına ilişkin süreçlerde dikkate alınması gereken birtakım riskleri de beraberinde getirebilmektedir. Bu risklerin önemli bir bölümü, genel olarak YZ sistemleri bağlamında ele alınan risklerle ör- tüşmektedir. Bununla birlikte, Etken YZ sistemlerinin hedef yönelimli, çok adımlı ve farklı düzeylerde otonom işleyişe imkân tanıyabilen yapısal özellikleri, söz konusu risklerin ortaya çıkma biçimini ve olası etkilerini daha karmaşık bir hâle getirebilmektedir. Özellikle birden fazla YZ Ara- cısının birbirleriyle ve farklı çevresel unsurlarla etkileşim hâlinde faaliyet gösterdiği yapılarda, tek başına faaliyet gösteren YZ Aracılarının kullanı- mına atfedilebilecek risklerin ötesine geçen ve sistemin bütününe ilişkin bir değerlendirme çerçevesi içerisinde ele alınması gereken durumlar or- taya çıkabilmektedir. Etken YZ sistemleri, farklı kullanım durumlarında belirli gö- revlerin daha sistematik biçimde yürütülmesine ve karmaşık süreçlerin yönetilmesine destek sağlayabilecek potansiyel faydalar sunmakla birlikte, söz konusu sistemlerin yapıları ve işleyiş biçimleri, sistem düzeyinde etik, güvenlik ve hukuki açılardan birtakım riskleri de beraberinde getirebilmektedir. Bu riskler, çalışmanın bir sonraki bölümünde ele alınmaktadır. -- 23 of 46 --

faydalar sunmakla birlikte, söz konusu sistemlerin yapıları ve işleyiş biçimleri, sistem düzeyinde etik, güvenlik ve hukuki açılardan birtakım riskleri de beraberinde getirebilmektedir. Bu riskler, çalışmanın bir sonraki bölümünde ele alınmaktadır. -- 23 of 46 -- Etken Yapay Zekâ (Agentic AI) 22 Sistem düzeyindeki risklerin önemli bir bölümü, Etken YZ sistemlerinin sahip olduğu otonomi düzeyi ile yakından ilişkilidir. Etken YZ sistemle- rinde otonomi düzeyi, kullanıcı girdisi veya onayının belirli ölçülerde ge- rekli olduğu yapılardan, daha yüksek derecede otonom işleyiş sergileye- bilen yapılara kadar uzanan bir yelpazede değişkenlik gösterebilmektedir. Mevcut uygulamalar dikkate alındığında, bu sistemlerin tamamen insan müdahalesinden bağımsız şekilde faaliyet gösterdiğini söylemek genel olarak mümkün olmamakla birlikte, otonomi düzeyindeki artış, sistemle- rin insan müdahalesi olmaksızın eylem başlatabilmesine ve bu eylemleri sürdürmesine imkân tanıyabilmektedir. Bu durum, belirli hedefler doğrultusunda daha hızlı ve etkin karar alma yönünde imkânlar sunabilmekle birlikte, sistem davranışlarının öngörüle- bilirliği ve bu davranışların insanlar tarafından belirlenen amaçlar, sınırlar ve beklentiler doğrultusunda yönlendirilmesi bakımından çeşitli güçlükler doğurabilmektedir. Özellikle hedef tanımlarının, bağlamsal kısıtların ve kabul edilebilir eylem alanlarının yeterince açık ve net biçimde belirlen- mediği durumlarda, Etken YZ sistemlerinin beklenmeyen veya istenme- yen sonuçlar ortaya çıkarma olasılığı artabilmektedir. Buna ek olarak, YZ Aracıları tarafından kısa süre içerisinde çok sayıda eylem gerçekleştirile- bilmesi, otonomi düzeyinin görece yüksek olduğu ve insan gözetiminin Bu başlık altında ele alınan riskler, Etken YZ sistemlerinin kul- lanımı ile ilişkili olası risklere örnek teşkil etmekte olup, söz konusu risklerin niteliği ve kapsamı; sistemin otonomi düze- yi, mimari özellikleri ve kullanım durumu gibi unsurlara bağlı olarak farklılık gösterebilmektedir. -- 24 of 46 --

Bu başlık altında ele alınan riskler, Etken YZ sistemlerinin kul- lanımı ile ilişkili olası risklere örnek teşkil etmekte olup, söz konusu risklerin niteliği ve kapsamı; sistemin otonomi düze- yi, mimari özellikleri ve kullanım durumu gibi unsurlara bağlı olarak farklılık gösterebilmektedir. -- 24 of 46 -- Etken Yapay Zekâ (Agentic AI) 23 sınırlı kaldığı kullanım durumlarında, ortaya çıkan etkilerin zamanında fark edilmesini ve gerekli müdahalelerin yapılmasını da zorlaştırabilmek- tedir. Etken YZ sistemlerinin kullanımı ile ilişkili riskler arasında, bu sistemle- rin karar alma ve eylem süreçlerinin yeterli düzeyde şeffaf ve açıklanabilir olmaması da önemli bir yer tutmaktadır. Zira YZ sistemleri bağlamında literatürde sıklıkla tartışılan “kara kutu” (black box)16 niteliği, Etken YZ sistemlerinin hedef yönelimli ve çok adımlı işleyiş biçimlerine bağlı ola- rak, bu sistemler bakımından daha karmaşık bir görünüm kazanabilmek- tedir. Bu sistemlerde hangi eylemlerin hangi sırayla gerçekleştirileceği, hangi araç veya işlevlerin hangi aşamada devreye alınacağı ve bu tercihler arasındaki ilişkiler, büyük ölçüde sistemin kendi iç değerlendirme ve plan- lama süreçleri çerçevesinde şekillenmektedir. Bu durum, birden fazla YZ Aracısının eş güdüm içerisinde faaliyet gös- terdiği yapılarda daha görünür hâle gelebilmektedir. Zira bu tür yapılarda, farklı aracılar tarafından alınan ve nihai çıktının oluşumuna katkı sunan ara kararlar ile bu kararlar doğrultusunda izlenen yürütme adımlarının bü- tüncül biçimde izlenmesi ve geriye dönük olarak anlamlandırılması her durumda mümkün olmayabilmektedir. Bu durumun bir sonucu olarak, sistem davranışlarının teknik açıdan doğrulanması ve belirli bir çıktının hangi karar zinciri sonucunda ortaya çıktığının izlenebilir biçimde ortaya konulması güçleşebilmektedir. Şeffaflık ve açıklanabilirlik düzeyinin sınırlı kaldığı kullanım senaryo- larında, Etken YZ sistemleri tarafından ortaya konulan sonuçlara ilişkin 16 “Kara kutu”; YZ sistemleri tarafından ulaşılan sonuçların üretildiği sürecin ve algoritmanın neden belirli kararları verdiğinin insanlar tarafından tam olarak anlaşılamadığı durumları ifade etmektedir. Bkz. European Parliamentary Research Service (EPRS): EU Guidelines on Ethics in Artificial Intelligence: Context and Implementation, (https://www.europarl.europa.eu/RegData/etudes/BRIE/2019/640163/EPRS_ BRI(2019)640163_EN.pdf), s. 5.

algoritmanın neden belirli kararları verdiğinin insanlar tarafından tam olarak anlaşılamadığı durumları ifade etmektedir. Bkz. European Parliamentary Research Service (EPRS): EU Guidelines on Ethics in Artificial Intelligence: Context and Implementation, (https://www.europarl.europa.eu/RegData/etudes/BRIE/2019/640163/EPRS_ BRI(2019)640163_EN.pdf), s. 5. -- 25 of 46 --

24 hata, yanlılık veya bağlamsal uyumsuzlukların zamanında fark edilmesi ve değerlendirilmesi de zorlaşabilmektedir. Bu etki, özellikle sistem çık- tılarının başka YZ Aracıları tarafından girdi olarak kullanıldığı çok adımlı iş akışlarında daha belirgin bir hâl alabilmektedir. Zira bu tür yapılarda, hatalı veya eksik değerlendirmelerin sonraki aşamalara aktarılması sure- tiyle zincirleme biçimde yayılması ve nihai çıktılar üzerinde olumsuz et- kiler doğurması ihtimali ortaya çıkabilmektedir. Bu bağlamda, Etken YZ sistemlerinin ortaya koyduğu sonuçların hangi değerlendirme adımları ve etkileşimler sonucunda şekillendiğinin izlenebilirliğinin sınırlı olması, sistem çıktılarının güvenilirliğinin değerlendirilmesini ve ortaya çıkan so- nuçlara ilişkin sorumluluk ilişkilerinin açık ve işlevsel biçimde tesis edil- mesini de zorlaştırabilmektedir. Sistem davranışlarının yeterli düzeyde izlenemediği kullanım durumları, Etken YZ sistemlerinde ön yargı ve ayrımcılık risklerinin tespitini ve ele alınmasını da güçleştirebilmektedir. Zira bazı uygulamalarda, Etken YZ sistemlerinin geniş ve yapılandırılmamış veri kümeleri üzerinde eğitilmiş temel modeller üzerine inşa edilebilmesi, bu sistemlerin toplumsal, kül- türel veya tarihsel ön yargıları yansıtan sonuçlar ortaya koyma olasılığını artırabilmektedir. Bu tür durumlarda, söz konusu ön yargıların hangi karar adımları veya değerlendirme süreçleri aracılığıyla sistem davranışlarına yansıdığının tespit edilmesi zorlaşabilmekte ve bu sonuçların sınırlı insan müdahalesiyle uygulama süreçlerine aktarılması durumunda, ortaya çıkan etkiler münferit durumlarla sınırlı kalmayarak daha geniş ve sistematik sonuçlara yol açabilmektedir. Etken YZ sistemlerinin teknik tasarımı ve işletilmesi sürecine ilişkin hu- suslar da sistem düzeyinde dikkate alınması gereken potansiyel risk un- surları arasında yer almaktadır.

sistemlerin kötüye kullanıma açık kullanım biçimleri, karmaşık Etken YZ yapılarının test edilmesi ve doğrulanmasına yönelik teknik güçlükler ile güvenilir ve tutarlı bir sistem tasarımının sağlanmasına ilişkin zorluklar,

Etken Yapay Zekâ (Agentic AI) 25 bu kapsamda öne çıkan potansiyel riskler arasındadır. Söz konusu riskler, büyük ölçüde sistemlerin teknik mimarisi ve uygulama biçimleriyle iliş- kili olup, kullanım durumuna ve tasarım tercihlerine bağlı olarak farklı düzeylerde ortaya çıkabilmektedir. Etken YZ sistemlerinin kullanımı, kişisel verilerin gizliliği ve güvenliği bakımından sistem düzeyinde dikkate alınması gereken riskleri de berabe- rinde getirebilmektedir. Zira bu sistemlerin geliştirilmesi ve uygulamaya alınması süreçleri, görevlerin niteliğine bağlı olarak farklı kaynaklardan temin edilen verilerin bir arada değerlendirilmesini ve bu verilerin çok adımlı iş akışları kapsamında işlenmesini gerektirebilmektedir. Bu süreç- lerde kullanılan veri kümelerinin kişisel verileri de içerebilmesi, Etken YZ sistemlerinin kullanımında bireylerin kişisel verilerinin korunması ba- kımından ilave gizlilik ve veri güvenliği risklerinin ortaya çıkmasına yol açabilmektedir. 5. Etken Yapay Zekâ Sistemleri Bağlamında Kişisel Verilerin Korunmasına İlişkin Potansiyel Riskler Etken YZ sistemleri ve bu sistemlerin bir bileşeni olarak faaliyet gösteren YZ Aracıları, belirlenen hedefler doğrultusunda görevlerini yerine getire- bilmek amacıyla farklı veri kaynakları ve bilgi sistemleriyle etkileşim ku- rabilen yapılar olarak tasarlanmaktadır. Bu etkileşimler, çoğu durumda çok adımlı iş akışları kapsamında gerçekleşmekte olup, sistemlerin işleyişi sıra- sında kişisel verileri de içerebilen veri kümelerinin kullanılması söz konusu olabilmektedir. Bu yönüyle Etken YZ sistemlerinin tasarımından kullanımı- na uzanan yaşam döngüsü boyunca, kişisel verilerin korunması bakımından ele alınması gereken birtakım potansiyel riskler ortaya çıkabilmektedir. Genel olarak YZ sistemlerinin geliştirilmesi ve kullanılması bağlamın- da kişisel verilerin korunmasına ilişkin olarak ele alınan temel risklerin, -- 27 of 46 --

na uzanan yaşam döngüsü boyunca, kişisel verilerin korunması bakımından ele alınması gereken birtakım potansiyel riskler ortaya çıkabilmektedir. Genel olarak YZ sistemlerinin geliştirilmesi ve kullanılması bağlamın- da kişisel verilerin korunmasına ilişkin olarak ele alınan temel risklerin, -- 27 of 46 -- Etken Yapay Zekâ (Agentic AI) 26 Etken YZ sistemleri bakımından da büyük ölçüde geçerliliğini koruduğu- nu söylemek mümkündür. Bununla birlikte, Etken YZ sistemlerinin hedef yönelimli, çok adımlı ve farklı düzeylerde otonom işleyiş sergileyebilen yapıları, kişisel verilerin işlenme süreçlerinin daha dinamik ve çok kat- manlı bir nitelik kazanmasına neden olabilmektedir. Bu durum, Etken YZ sistemlerinin işleyişi kapsamında ortaya çıkabilecek kişisel verilerin ko- runmasına ilişkin risklerin, genel YZ tartışmalarından bütünüyle bağımsız olmamakla birlikte birtakım yönleriyle farklılaşan bir çerçeve içerisinde ele alınmasını gerekli kılmaktadır. Etken YZ sistemlerinde kişisel verilerin işlenmesi, esas itibarıyla sistem- lerin belirlenen hedefler doğrultusunda görevlerini yerine getirebilmesine hizmet eden bir unsur olarak ortaya çıkmaktadır. Bu kapsamda, kişisel ve- rilerin hangi amaçlarla işlendiğinin ve bu amaçlarla bağlantılı olarak hangi veri türlerinden yararlanıldığının ortaya konulması, veri işleme faaliyetle- rinin kapsam ve sınırlarının belirlenmesi bakımından önem taşımaktadır. Bu bağlamda, sistem hedeflerinin ve görev kapsamlarının hangi işlevsel gereklilikler çerçevesinde tanımlandığı, kişisel veri işleme faaliyetlerinin bu hedef ve görevler bakımından işlevsel bir rol üstlenip üstlenmediği ile veri işleme süreçlerinin sistemin farklı aşamalarındaki kapsamı gibi Bu başlık altında ele alınan hususlar, Etken YZ sistemleri bağlamında kişisel verilerin korunmasına ilişkin potansiyel risklere örnek teşkil etmekte olup, söz konusu risklerin kap- samı ve etkileri; sistemin otonomi düzeyi, mimari özellikleri ve kullanım durumu gibi unsurlara bağlı olarak farklılık gös- terebilmektedir. -- 28 of 46 --

27 hususlar, kişisel verilerin korunmasına ilişkin amaçla sınırlılık ve veri minimizasyonu ilkeleri bakımından dikkate alınması gereken unsurlar arasında yer almaktadır. Etken YZ sistemlerinin hedef odaklı ve çok adımlı işleyiş yapısı, görevle- rin yerine getirilmesi sürecinde veri işleme faaliyetlerinin sistemin farklı aşamalarında devreye girmesine ve farklı görevler kapsamında farklı veri kümelerinin kullanılmasına yol açabilmektedir. Özellikle birden fazla YZ Aracısının eş güdüm içerisinde çalıştığı yapılarda, veri işleme faaliyetleri- nin farklı görev ve süreçlere dağılmış bir yapı kazanması mümkündür. Bu tür yapılarda, kişisel verilerin korunmasına ilişkin değerlendirmelerin, tek tek veri işleme faaliyetlerinden ziyade sistemin bütüncül işleyişi dikkate alınarak yapılması önem kazanmaktadır. Nitekim ayrı ayrı ele alındığında sınırlı etkilere sahip gibi görünen veri işleme faaliyetleri, sistem genelin- de birlikte değerlendirildiğinde daha geniş kapsamlı ve öngörülmesi güç sonuçlar doğurabilmektedir. Örneğin, bir Etken YZ sisteminde farklı YZ Aracıları tarafından kullanıcı etkileşimlerine ilişkin verilerin ayrı ayrı ana- liz edilmesi, münferit olarak ele alındığında sınırlı etkiler doğurabilirken; bu analizlerin sistem genelinde birleştirilmesi hâlinde ise kullanıcıya iliş- kin daha kapsamlı çıkarımlar yapılabilmektedir. Bunun yanı sıra, Etken YZ sistemlerinin görevlerin ilerleyişine bağlı olarak veri kullanımına ilişkin değerlendirmeleri güncelleyebildiği, baş- langıçta öngörülmeyen veri kümelerinin sürece dâhil edilebildiği veya mevcut verilerin farklı görevler kapsamında yeniden kullanılabildiği du- rumlarla da karşılaşılabilmektedir. Bu tür durumlar, kişisel veri işleme fa- aliyetlerinin kapsamının zaman içerisinde değişkenlik göstermesine neden olabilmekte ve belirlenen veri işleme amaçları ile veri işleme faaliyetleri arasındaki ilişkinin sistemin işleyişi boyunca dikkate alınmasını gerekti- rebilmektedir.

ihtiyaç duyulduğunu ve bu verilerin nasıl elde edileceğini süreç içerisinde

-- 29 of 46 --

28 yeniden belirleyebilecek şekilde tasarlanması, bazı durumlarda ulaşılmak istenen amaç için gerekli olandan daha geniş kapsamlı veri kümelerine erişilmesi ihtimalini ortaya çıkarabilmektedir. Bu durum, veri işleme fa- aliyetlerinin kapsamı ve sınırlarına ilişkin öngörülebilirliği azaltabilmek- te ve veri kullanımının belirlenen amaçlarla olan uyumunun izlenmesini zorlaştırabilmektedir. Bu çerçevede, Etken YZ sistemlerinin tasarım ve kullanım süreçlerinde veri ihtiyacının belirlenmesine ve veri kullanımı- nın sınırlandırılmasına yönelik yaklaşımlar, kişisel verilerin korunmasına ilişkin amaçla sınırlılık ve veri minimizasyonu ilkeleri bakımından önem taşımaktadır. Amaç tanımlarının ve veri kullanımının kapsamının sistemin işleyişi içe- risinde değişkenlik gösterebilmesi, veri işleme faaliyetlerinin hangi iş- leme şartına (hukuki sebebe) dayandığına ilişkin değerlendirmeleri de doğrudan etkileyebilmektedir. Etken YZ sistemlerinde veri işleme faali- yetlerinin çok adımlı bir yapı sergilemesi ve süreç içerisinde kapsamının genişleyebilmesi, kişisel verilerin işlenmesine dayanak oluşturan işleme şartlarının sistemin yaşam döngüsü boyunca aynı kapsam ve içerikle ge- çerliliğinin korunmasını zorlaştırabilmektedir. Özellikle sistemin ilerleyen aşamalarında ortaya çıkan ve başlangıçta öngörülmeyen veri kullanımları, veri işleme faaliyetlerinin hangi işleme şartına dayandığının ve bu işleme şartının söz konusu kullanımlar bakımından geçerliliğini koruyup koru- madığının yeniden değerlendirilmesini gerekli kılabilmektedir. Bu durum, Etken YZ sistemlerinin kullanımında, başlangıçta hukuka uy- gun şekilde yürütüldüğü değerlendirilen bir veri işleme faaliyetinin, süreç ilerledikçe farklı amaçlarla ilişkilendirilmesi veya daha geniş kapsamlı veri kümelerini içerecek şekilde genişlemesi sonucunda, söz konusu veri işleme faaliyetinin hukuki sebep ile olan bağının ortadan kalkması riski- ni gündeme getirebilmektedir.

bireylerin makul beklentileriyle ve başlangıçta öngörülen işleme çerçe- vesiyle olan uyumunun korunması, Etken YZ sistemlerinin kullanımı

Etken Yapay Zekâ (Agentic AI) 29 bakımından dikkate alınması gereken önemli bir husus olarak ortaya çı- kabilmektedir. Diğer taraftan, özel nitelikli kişisel verilerin doğrudan veya dolaylı ola- rak veri işleme süreçlerine dâhil olduğu durumlarda, bu verilerin niteliği gereği bireylerin mağduriyet yaşaması veya ayrımcılığa maruz kalması ihtimali de söz konusu olabilmektedir. Bu bağlamda, özel nitelikli kişisel verilerin işlenmesinden kaynaklanabilecek risklerin, Etken YZ sistemle- rinin işleyişi ve kullanım durumu dikkate alınarak değerlendirilmesi ve bu riskleri azaltmaya yönelik uygun tedbirlerin hayata geçirilmesi önem taşımaktadır. Çıkarıma dayalı ve türetilmiş veri kullanımları da Etken YZ sistemle- rinin kullanımı kapsamında kişisel verilerin korunması bakımından dikka- te alınması gereken potansiyel riskler arasında yer almaktadır. Etken YZ sistemlerinin görevlerini yerine getirirken çoğu durumda birden fazla veri kaynağından temin edilen veri kümeleri üzerinde analizler gerçekleştire- bilmesi ve bu analizler sonucunda çeşitli çıkarımlar ortaya koyabilmesi, başlangıçta tek başına değerlendirildiğinde kişisel veri niteliği taşımadığı veya bireyler hakkında sınırlı bilgi sunduğu varsayılabilecek veri unsur- larının farklı veri kümeleriyle ilişkilendirilmesi suretiyle, bireylere ilişkin daha ayrıntılı veya hassas nitelikte bilgilerin dolaylı olarak ortaya çıkarıl- masına yol açabilmektedir. Bu bağlamda, Etken YZ sistemlerinin farklı kaynaklardan elde edilen ve- rileri bir araya getirebilme ve bu veriler arasında zaman içerisinde bağ- lantılar kurabilme kapasitesi, anonimleştirildiği varsayılan veya bireylerle ilişkilendirilmesi amaçlanmamış veri setlerinin bireylerle ilişkilendirilebi- lir hâle gelmesi riskini artırabilmektedir. Bu tür veri işleme süreçleri, bi- reyler hakkında kapsamlı profiller oluşturulmasına imkân tanıyabilmekte ve veri işleme faaliyetlerinin kapsamı ile bu faaliyetler sonucunda ortaya çıkan değerlendirmelerin kişiler tarafından öngörülebilirliğini azaltabil- mektedir. -- 31 of 46 --

30 Etken YZ sistemlerinin hedef yönelimli, çok adımlı ve çoğu durumda bir- den fazla YZ Aracısının eş güdüm içerisinde faaliyet gösterdiği yapısı, kişisel verilerin işlenmesine ilişkin süreçlerin şeffaflığı ve açıklana- bilirliği bakımından da çeşitli güçlükler doğurabilmektedir. Çalışmanın önceki başlığında da değinildiği üzere, YZ sistemleriyle sıklıkla ilişkilen- dirilen “kara kutu” niteliği, Etken YZ sistemlerinde karar alma ve eylem süreçlerinin farklı aşamalara ve bileşenlere yayılmış şekilde gerçekleşme- si nedeniyle bu süreçlerin izlenebilirliğinin, bazı kullanım senaryolarında geleneksel YZ uygulamalarına kıyasla daha karmaşık bir görünüm kazan- masına yol açabilmektedir. Özellikle birden fazla YZ Aracısının etkileşim hâlinde faaliyet gösterdiği yapılarda, belirli bir kararın veya kişisel veri kullanımının hangi YZ ara- cısı ya da süreç adımı ile ilişkili olduğunun açık bir şekilde ortaya konul- ması her zaman mümkün olmayabilmektedir. Bu durum, kişisel verilerin hangi aşamalarda ve hangi girdiler temelinde işlendiğinin anlaşılmasını zorlaştırabilmekte; aynı zamanda veri işleme faaliyetlerinin geriye dönük olarak izlenmesi, bu süreçlere ilişkin açıklamalar sunulması ve karar alma süreçlerinde ortaya çıkabilecek olası yanlılıkların kaynaklarının tespit edilmesi bakımından ilave güçlükler ortaya çıkarabilmektedir. Etken YZ sistemlerinin yapısal özellikleri, kişisel verilerin işlenmesi- ne ilişkin sorumluluk ve hesap verebilirlik çerçevesinin açık biçimde ortaya konulmasını da zorlaştırabilmektedir. Özellikle birden fazla YZ Aracısının ve farklı aktörlerin sürece dâhil olduğu yapılarda, veri işleme faaliyetlerine ilişkin kontrol ve gözetim mekanizmalarının etkin biçim- de işletilmesi bakımından çeşitli zorluklar ortaya çıkabilmektedir.

alma ve veri işleme süreçlerinin birden fazla aşama ve bileşene yayılmış bir yapı sergilemesi, veri işleme faaliyetlerine ilişkin sorumluluğun hangi aktörler tarafından üstlenileceğinin ve bu sorumluluğun Etken YZ sistem- lerinin yaşam döngüsünün farklı aşamalarında geliştiriciler, yerleştiriciler (deployers) veya diğer ilgili taraflar arasında nasıl paylaşılacağının belir- lenmesini güçleştirebilmektedir.

-- 32 of 46 --

31 Bu durum, kişisel verilerin korunmasına ilişkin düzenlemeler kapsamında bireylere tanınan hakların etkin biçimde kullanılabilmesi bakımından da önem taşımaktadır. Zira veri işleme faaliyetlerinin farklı aktörler arasında dağılması ve YZ Aracıları tarafından yürütülen süreçlerin birbirine bağlı şekilde işlemesi, ortaya çıkan bir ihlal veya zararın hangi tarafın sorum- luluğunda değerlendirileceğinin veya bireyler tarafından iletilen taleplerin hangi aktör tarafından karşılanmasının bekleneceğinin belirlenmesini zor- laştırabilmektedir. Etken YZ sistemlerinde kişisel verilerin doğruluğunun sağlanması, özellikle bu sistemlerin ÜYZ modelleriyle bütünleşik şekilde çalıştığı du- rumlarda, kişisel verilerin korunması bakımından dikkate alınması gere- ken önemli bir risk unsuru olarak ortaya çıkmaktadır. ÜYZ modellerinin doğasında yer alan ve genellikle “halüsinasyon” olarak adlandırılan olgu, gerçeklikle örtüşmeyen ancak çoğu zaman makul ve ikna edici görünen çıktılar üretilmesini ifade etmektedir. Bu tür çıktılar, Etken YZ sistemle- rinin işleyişi kapsamında sonraki aşamalarda girdi olarak kullanıldıkları durumlarda, kişisel verilerin doğruluğunu etkileyebilecek sonuçlara yol açabilmektedir. Bu kapsamda, örneğin Etken YZ sistemleri tarafından oluşturulan hatalı değerlendirmelerin veya yanlış bilgilerin, otomatik süreçler aracılığıyla iç sistemlere aktarılması, mevcut kişisel verilerle ilişkilendirilmesi ya da karar alma mekanizmalarının dayanağı hâline gelmesi, bireylere ilişkin bilgilerin zaman içerisinde hatalı biçimde güncellenmesine veya yaygın- laşmasına neden olabilmektedir. Buna ek olarak, Etken YZ sistemlerinin çok adımlı görevleri yerine getirirken birbirini izleyen eylemler gerçek- leştirebilmesi, erken aşamalarda ortaya çıkan sınırlı nitelikteki hataların sonraki aşamalara taşınmasına ve bu hataların etkisinin zaman içerisinde artarak nihai çıktının doğruluğunun ve güvenilirliğinin zayıflamasına yol açabilmektedir.

verilerin doğruluğunun sağlanması ve bu veriler temelinde ortaya çıkan

Etken Yapay Zekâ (Agentic AI) 32 sonuçların güvenilirliğinin gözetilmesi, sistemin bütüncül işleyişi dikkate alınarak değerlendirilmesi gereken bir husus olarak ortaya çıkmaktadır. Etken YZ sistemlerinin geliştirilmesi ve kullanıma alınması, güvenlik ve sistem dayanıklılığı bakımından, geleneksel YZ uygulamalarına kıyasla daha geniş ve karmaşık risklerin gündeme gelmesine yol açabilmektedir. Bu sistemlerin tasarımları gereği birden fazla veri kaynağı, araç ve dijital ortamla bütünleşik biçimde çalışması, saldırı yüzeyinin genişlemesine ve kötü niyetli aktörler tarafından kullanılabilecek yeni zafiyet noktalarının ortaya çıkmasına zemin hazırlayabilmektedir. Etken YZ sistemlerinde kullanılabilen ÜYZ modellerinin belirli saldırı türlerine karşı hassasiyet gösterebilmesi, kişisel verilerin gizliliği ve bü- tünlüğü bakımından ilave riskleri gündeme getirebilmektedir. Bu kapsam- da, sistemlere sağlanan girdilerin manipüle edilmesi yoluyla, Etken YZ sistemlerinin hassas bilgileri ifşa etmesine veya geliştiriciler tarafından öngörülen güvenlik kısıtlarının aşılmasına imkân tanıyabilecek müdahale- ler söz konusu olabilmektedir. Bu tür müdahaleler, yalnızca veri güvenliği ile sınırlı sonuçlar doğurmakla kalmayarak, Etken YZ sistemlerinin diğer bilgi sistemleriyle etkileşim kurduğu veya otomatik eylemler başlattığı se- naryolarda, kişisel verilerin korunması bakımından daha geniş kapsamlı ve zincirleme etkilere yol açabilmektedir. Buna ek olarak, Etken YZ sistemlerinin görevlerini yerine getirirken farklı düzeylerde otonom hareket edebilmesi ve birbirini izleyen eylemler ger- çekleştirebilmesi, güvenlik açıklarının sistem davranışları üzerinden ya- yılmasına veya kalıcı hâle gelmesine elverişli bir zemin oluşturabilmek- tedir. Bu durum, Etken YZ sistemlerinin güvenli şekilde işletilmesini ve kişisel verilerin korunmasına yönelik olarak uygulanan tedbirlerin etkinli- ğinin zaman içerisinde sürdürülmesini zorlaştırabilmektedir. Etken YZ sistemlerinin karmaşık hedefler doğrultusunda faaliyet gös- terebilmesi ve bu hedefleri süreç içerisinde kendi iç değerlendirme -- 34 of 46 --

kişisel verilerin korunmasına yönelik olarak uygulanan tedbirlerin etkinli- ğinin zaman içerisinde sürdürülmesini zorlaştırabilmektedir. Etken YZ sistemlerinin karmaşık hedefler doğrultusunda faaliyet gös- terebilmesi ve bu hedefleri süreç içerisinde kendi iç değerlendirme -- 34 of 46 -- Etken Yapay Zekâ (Agentic AI) 33 mekanizmaları aracılığıyla yorumlayıp uyarlayabilmesi, sistem davra- nışlarının insanlar tarafından belirlenen amaçlar ve hukuki çerçeve- lerle uyumu bakımından ilave riskler ortaya çıkarabilmektedir. Özellikle talimatların belirsiz olduğu, bağlamsal sınırların yeterince açık bir şekilde tanımlanmadığı veya eğitim ve yapılandırma süreçlerindeki eksikliklerin etkili olduğu durumlarda, Etken YZ sistemlerinin teknik olarak mümkün olan, ancak başlangıçta öngörülmeyen veya istenmeyen eylem yollarını tercih etmesi söz konusu olabilmektedir. Bu tür durumlar, kişisel verilerin korunması bakımından da dikkate alın- ması gereken riskleri beraberinde getirebilmektedir. Zira Etken YZ sis- temlerinin belirli bir hedefe ulaşma sürecinde kişisel verilere erişmeyi, bu verileri farklı kaynaklardan elde edilen bilgilerle ilişkilendirmeyi veya belirli koşullar altında paylaşmayı işlevsel bir gereklilik olarak değerlen- direbilmesi, bireylerin kişisel verileri üzerindeki kontrol beklentileriyle ve veri koruma düzenlemeleriyle her zaman örtüşen sonuçlar doğurmayabi- lecektir. Buna ek olarak, karar alma ve eylem süreçlerinin yüksek düzeyde oto- nomiye dayandığı kullanım durumlarında, kişisel verilerin işlenmesine ilişkin değerlendirmelerin büyük ölçüde sistemin kendi işleyişi içerisinde şekillenmesi söz konusu olabilmektedir. Bu durum, veri işleme faaliyetle- ri üzerinde insan gözetimi ve müdahalesinin sınırlı kalmasına yol açabil- mekte; bu da kişisel verilerin korunmasına ilişkin risklerin zamanında fark edilmesini ve ele alınmasını zorlaştırabilmektedir. Bu kapsamda, Etken YZ sistemlerinin hedef belirleme ve eylem gerçekleştirme süreçlerinin, kişisel verilerin korunmasına ilişkin gereklilikler gözetilerek tasarlanması ve işletilmesi, söz konusu risklerin sistem düzeyinde yönetilebilmesi ba- kımından önem taşımaktadır.

YZ sistemlerinin hedef belirleme ve eylem gerçekleştirme süreçlerinin, kişisel verilerin korunmasına ilişkin gereklilikler gözetilerek tasarlanması ve işletilmesi, söz konusu risklerin sistem düzeyinde yönetilebilmesi ba- kımından önem taşımaktadır. -- 35 of 46 -- Etken Yapay Zekâ (Agentic AI) 34 Etken YZ sistemlerinin kendine özgü yapısal ve işlevsel özel- likleri, kişisel verilerin korunmasına ilişkin düzenlemelerin bu sistemler bakımından uygulanmasında birtakım zorlukla- rın ortaya çıkmasına neden olabilmektedir. Bununla birlikte söz konusu zorlukların, Etken YZ sistemleri bakımından veri koruma düzenlemelerinin geçerliliğini veya uygulanabilirli- ğini ortadan kaldıran bir durum olarak değerlendirilmemesi önem taşımaktadır. Bu çerçevede, Etken YZ sistemlerine ilişkin süreçlerde, kişisel verilerin korunmasına ilişkin yükümlülüklerin etkin biçimde yerine getirilebilmesini teminen, sistemin kullanım durumu ile kişisel veri işleme süreçlerini şekillendiren yapısal unsurlar dikkate alınarak uygun teknik ve idari tedbirlerin hayata ge- çirilmesi kritik bir öneme sahiptir. 6. Etken Yapay Zekâ Sistemleri Bağlamında Kişisel Verilerin Korunması Bakımından Dikkate Alınabilecek Hususlar Etken YZ sistemlerinde kişisel verilerin korunmasına ilişkin olarak dik- kate alınabilecek hususlar, sistemlerin otonomi düzeyi, kullanım duru- mu ve ilgili diğer faktörlere göre değişebilecek risklerin belirlenmesi ve uygun tedbirlerle yönetilmesi ihtiyacı ile ilişkilidir. Bu çerçevede, Etken YZ sistemlerinin tasarım ve kullanım süreçlerine ilişkin değerlendirmele- rin, risklerin tümüyle ortadan kaldırılmasını amaçlayan bir yaklaşımdan -- 36 of 46 --

uygun tedbirlerle yönetilmesi ihtiyacı ile ilişkilidir. Bu çerçevede, Etken YZ sistemlerinin tasarım ve kullanım süreçlerine ilişkin değerlendirmele- rin, risklerin tümüyle ortadan kaldırılmasını amaçlayan bir yaklaşımdan -- 36 of 46 -- Etken Yapay Zekâ (Agentic AI) 35 ziyade, kullanım durumuna göre ortaya çıkabilecek risklerin tanımlanma- sı, değerlendirilmesi ve uygun teknik ve idari tedbirlerle yönetilmesine odaklanan bir çerçevede ele alınması önem taşımaktadır. Bu kapsamda, Etken YZ sistemlerinin tasarım ve kullanım süreçlerinin değerlendirilmesinde risk temelli bir yaklaşımın benimsenmesi, bireyler, ilgili kuruluşlar ve toplum bakımından ortaya çıkabilecek olası etkilerin dikkate alınmasını ve sistemlerin zaman içerisinde değişebilen risk profil- lerine uyum sağlayabilecek mekanizmalarla desteklenmesini gerekli kıl- maktadır. Zira mevcut yükümlülükler çerçevesinde uygun şekilde tanım- lanmış veri yönetişimi uygulamaları ile amaca uygun teknik sınırlamaların birlikte ele alınması, kişisel verilerin korunmasına ilişkin düzenlemelerle uyumun güçlendirilmesine katkı sunabileceği gibi, bu sistemlere güven tesis edilmesi bakımından da destekleyici bir işlev görebilecektir. Bu doğrultuda, Etken YZ sistemleri bağlamında kişisel verilerin korun- ması bakımından dikkate alınabilecek hususlar aşağıda ele alınmaktadır: • Etken YZ sistemlerinin farklı derecelerde otonom işleyiş sergileye- bilen yapısı dikkate alındığında, bu sistemlerin kullanımında insan merkezli bir yaklaşım benimsenmesi ve bu çerçevede yeterli ve an- lamlı insan katılımı veya gözetiminin sağlanması önemli bir husus olarak değerlendirilmektedir. Artan otonomi düzeyi karşısında, Etken YZ sistemlerinin insanlar tarafından belirlenen hedefler, etik ilkeler ve toplumsal beklentilerle uyumlu şekilde hareket etmesini destek- leyecek mekanizmaların öngörülmesi; bireylerin karar alma, seçim yapma ve kendi eylemleri üzerindeki kontrol imkânlarının korunma- sı ve sürdürülmesi bakımından koruyucu bir işlev görebilecektir. Bu çerçevede, insan gözetiminin hangi koşullarda ve hangi aşamalarda devreye gireceğinin açık bir şekilde tanımlanması ve otonomi düze- yi ile insan gözetimi arasındaki dengenin uygun şekilde kurulması, sistemlerin öngörülmeyen veya istenmeyen sonuçlar ortaya koyması riskinin azaltılmasına katkı sunabilecektir.

çerçevede, insan gözetiminin hangi koşullarda ve hangi aşamalarda devreye gireceğinin açık bir şekilde tanımlanması ve otonomi düze- yi ile insan gözetimi arasındaki dengenin uygun şekilde kurulması, sistemlerin öngörülmeyen veya istenmeyen sonuçlar ortaya koyması riskinin azaltılmasına katkı sunabilecektir. -- 37 of 46 -- Etken Yapay Zekâ (Agentic AI) 36 İnsan gözetimine ilişkin iyi uygulama örneklerinin, Etken YZ sistemlerinin geliştirme, kullanıma alma ve kullanım sonrası aşamalarını kapsayacak şekilde ele alınması mümkündür. Bu kapsamda, geliştirme aşamasında sistemin hangi veri türle- rine erişebileceği ve ne tür kararların verilebileceği gibi hu- susların insanlar tarafından açık bir şekilde tanımlanması ve bu sınırların test edilmesi, insan gözetiminin önleyici bir un- sur olarak kurgulanmasına katkı sağlayabilecektir. Sistemin kullanıma alınması aşamasında, potansiyel olarak yüksek risk barındıran karar alma veya veri işleme süreçleri bakımın- dan, ilave insan incelemesini devreye alabilecek mekanizma- ların öngörülmesi, insan gözetiminin etkin biçimde hayata geçirilmesine imkân tanıyabilecektir. Kullanım sonrası aşa- mada ise sistemin davranışlarının, karar alma süreçlerinin ve kullanıcılarla etkileşimlerinin izlenmesine yönelik geri bildi- rim ve değerlendirme mekanizmalarının işletilmesi, sistemin amaçlanan kullanım biçimiyle uyumunun sürdürülmesine ve gerektiğinde güncellenmesine katkı sunabilecektir 17 . • Etken YZ sistemlerinin, belirli kullanım durumlarında çok katmanlı ve/veya dağıtık bir yapı kazanabilen işleyişi, bu sistemlerin kullanı- mında şeffaflık ve açıklanabilirliğin farklı düzeylerde ele alınmasını gerekli kılabilmektedir. Bu çerçevede, sistemlerin üstlendiği görev- lerin niteliği ve ortaya çıkabilecek riskler dikkate alınarak, uygun 17 CIPL, Agentic AI: Fostering Responsible and Beneficial Development and Adoption, s. 26. -- 38 of 46 --

mında şeffaflık ve açıklanabilirliğin farklı düzeylerde ele alınmasını gerekli kılabilmektedir. Bu çerçevede, sistemlerin üstlendiği görev- lerin niteliği ve ortaya çıkabilecek riskler dikkate alınarak, uygun 17 CIPL, Agentic AI: Fostering Responsible and Beneficial Development and Adoption, s. 26. -- 38 of 46 -- Etken Yapay Zekâ (Agentic AI) 37 açıklanabilirlik düzeyinin sağlanmasına yönelik yaklaşımların be- nimsenmesi, sistemlerin nasıl çalıştığının ve belirli kararların hangi gerekçelerle alındığının anlaşılmasına katkı sunabilecektir. Bu kap- samda, sistemlerin tasarım ve geliştirme süreçlerinde açıklanabilir- liğin gözetilmesi, sistem bileşenleri arasındaki etkileşimlerin yeterli açıklıkta ortaya konulması ve sistem davranışlarının izlenmesine im- kân tanıyan mekanizmalarla desteklenmesi faydalı olacaktır. Bu tür uygulamalar, sistem davranışlarının izlenebilirliğini artırarak insan gözetiminin etkin biçimde sürdürülmesini ve olası uyumsuzlukların, ön yargılı değerlendirmelerin veya istenmeyen sonuçların erken aşa- mada tespit edilmesini kolaylaştırabilecektir. Bu çerçevede, sistemle- rin öngörülen amaç ve sınırlamalar dışında hareket etmesini önlemeye yönelik teknik sınırlamaların ve koruyucu kontrol mekanizmalarının da şeffaflık ve açıklanabilirliğe ilişkin yaklaşımları tamamlayıcı bir rol üstlenebileceği değerlendirilmektedir. • Etken YZ sistemleri kapsamında ortaya konulan çıktılara dayanak oluşturan kişisel verilerin doğruluğunun sağlanması, süreç boyunca gözetilmesi önem taşıyan hususlar arasında yer almaktadır. Bu çer- çevede, sistemlerin görevlerini yerine getirirken kullandıkları bilgi ve değerlendirmelerin güncelliğinin ve bağlama uygunluğunun ko- runmasına yönelik yaklaşımların benimsenmesi, hatalı veya yanıltı- cı sonuçların etkilerinin sınırlandırılmasına katkı sağlayabilecektir. Özellikle çıktıların sonraki süreçlerde girdi olarak kullanılabildiği du- rumlarda, kişisel verilerin doğruluğunun süreklilik arz edecek şekilde gözetilmesi, karar alma ve değerlendirme süreçlerinin daha isabetli ve öngörülebilir biçimde yürütülmesini destekleyici bir rol oynaya- bilecektir. • Etken YZ sistemlerinin geliştirilmesi ve kullanımı sürecinde yer alan aktörlerin rollerinin açık bir şekilde tanımlanması, bu sistemlere ilişkin sorumluluk ve müdahale imkânlarının ortaya konulması bakımından

ve öngörülebilir biçimde yürütülmesini destekleyici bir rol oynaya- bilecektir. • Etken YZ sistemlerinin geliştirilmesi ve kullanımı sürecinde yer alan aktörlerin rollerinin açık bir şekilde tanımlanması, bu sistemlere ilişkin sorumluluk ve müdahale imkânlarının ortaya konulması bakımından -- 39 of 46 --

38 önem taşımaktadır. Bu kapsamda, sistemlerin teknik tasarımına yön veren geliştiriciler ile sistemlerin pratikte hangi amaçlarla ve koşul- larda kullanıldığını belirleyen yerleştiriciler (deployers) ve diğer ilgili aktörler arasında görev, yetki ve sorumlulukların netleştirilmesi, Et- ken YZ sistemlerinin işleyişinden kaynaklanabilecek risklerin daha etkin biçimde ele alınmasına imkân tanıyabilecektir. Aktörler arasın- daki rollerin farklılaşmasına dayalı ve koordinasyonu gözeten bir iş birliği anlayışının benimsenmesi, bu sistemlerin kullanımına ilişkin karar alma ve müdahale süreçlerinin daha öngörülebilir ve yönetilebi- lir bir hâle gelmesine katkı sağlayabilecektir. • “Tasarımdan itibaren mahremiyet” (privacy by design)18 ve “varsa- yılan olarak mahremiyet” (privacy by default)19 yaklaşımları, Etken YZ sistemlerinde kişisel verilerin korunmasına ilişkin hususların sis- temlerin yaşam döngüsü boyunca sistematik biçimde dikkate alınma- sına imkân tanıyan bir çerçeve sunabilecektir. Risk temelli bir bakış açısıyla bu yaklaşımların benimsenmesi, Etken YZ sistemlerinin kul- lanımı sırasında ortaya çıkabilecek risklerin erken aşamada dikkate alınmasına ve yönetilmesine katkı sağlayabilecek niteliktedir. Bu çerçevede, “mahremiyet artırıcı teknolojiler”in (privacy-enhancing technologies)20 Etken YZ sistemlerine entegre edilmesi, söz konu- 18 “Tasarımdan itibaren mahremiyet”; veri koruma ilkelerine uyum sağlanması amacıyla, veri işleme faaliyetleri ve bilgi sistemlerinin tasarımına veri koruma ve mahremiyetin entegre edilmesini amaçlayan yaklaşımı ifade etmektedir. Bkz. European Data Protection Supervisor (EDPS): Our Work By Topics: Privacy by Design, (https://www.edps.europa.eu/data-protection/our-work/subjects/privacy- design_en). 19 “Varsayılan olarak mahremiyet”; veri sorumlusunun, kullanıcı müdahalesi olmaksızın varsayılan olarak, yalnızca her bir veri işleme amacı için kesinlikle gerekli olan verilerin işlenmesinin sağlanmasını öngören yaklaşımı ifade etmektedir. Bkz. European Data Protection Supervisor (EDPS): Our Work By Topics: Privacy by Default, (https://www.edps.europa.eu/data-protection/our- work/subjects/privacy-default_en).

kişisel veri işleme faaliyetini ortadan kaldırarak veya azaltarak ya da gereksiz ve/

Etken Yapay Zekâ (Agentic AI) 39 su yaklaşımların teknik düzeyde desteklenmesine katkı sunabilecek tamamlayıcı araçlar olarak değerlendirilebilecektir. • Etken YZ sistemlerinin yaşam döngüsü boyunca ortaya çıkabilecek risklerin sistematik biçimde ele alınmasını sağlayacak risk değerlen- dirme mekanizmalarının benimsenmesi, kişisel verilerin korunmasına ilişkin olarak bu sistemlerin işleyişinden kaynaklanabilecek risklerin bütüncül bir bakış açısıyla değerlendirilmesi açısından faydalı olabi- lecektir. Bu kapsamda, veri işleme faaliyetlerinin kapsamı ve bireyler üzerindeki olası etkileri dikkate alınarak, uygun olduğu durumlarda veri koruma etki değerlendirmesi gibi araçlardan yararlanılması, kişi- sel verilerin korunmasına ilişkin risklerin daha öngörülebilir ve yöne- tilebilir bir çerçevede ele alınmasına katkı sağlayabilecektir. • Etken YZ sistemlerinin geliştirilmesi ve kullanımında kişisel verilerin korunması, teknik önlemlerin yanı sıra daha geniş bir uygulama ve yönetişim bağlamı içerisinde ele alınması gereken hususları da içer- mektedir. Bu çerçevede, mevcut veri koruma ve yönetişim mekaniz- malarının, Etken YZ sistemlerinin yapısal özellikleri dikkate alınarak gözden geçirilmesi ve sistemlerin işleyişi, kullanım sınırları ve potan- siyel riskleri konusunda, bu sistemlerin kullanımı veya işletilmesinde rol alan kişilere yönelik bilinçlendirme ve eğitim faaliyetlerinin yürü- tülmesi gibi hususlar, kişisel veri güvenliğine ilişkin risklerin daha et- kin biçimde yönetilmesine katkı sağlayabilecek tamamlayıcı unsurlar arasında değerlendirilmektedir. veya istenmeyen şekilde işlenmesini önleyerek mahremiyeti koruyan uyumlu bir bilgi ve iletişim teknolojisi önlemleri sistemini ifade etmektedir. Bkz. European Data Protection Supervisor (EDPS): Glossary, (https://www.edps.europa.eu/data- protection/data-protection/glossary/p_en#pets). -- 41 of 46 --

arasında değerlendirilmektedir. veya istenmeyen şekilde işlenmesini önleyerek mahremiyeti koruyan uyumlu bir bilgi ve iletişim teknolojisi önlemleri sistemini ifade etmektedir. Bkz. European Data Protection Supervisor (EDPS): Glossary, (https://www.edps.europa.eu/data- protection/data-protection/glossary/p_en#pets). -- 41 of 46 -- Etken Yapay Zekâ (Agentic AI) 40 Etken YZ sistemlerinin gelişim süreci devam etmekte olup teknik, hukuki ve uygulamaya ilişkin yaklaşımların zaman içe- risinde farklılaşabileceğinin belirtilmesi önem taşımaktadır. Bu çerçevede, söz konusu dokümanda yer verilen değerlen- dirmelerin mevcut bilgi ve yaklaşımlar temelinde gerçekleş- tirildiği ve alandaki gelişmeler doğrultusunda değişiklik gös- terebileceği göz önünde bulundurulmalıdır. -- 42 of 46 --

Bu çerçevede, söz konusu dokümanda yer verilen değerlen- dirmelerin mevcut bilgi ve yaklaşımlar temelinde gerçekleş- tirildiği ve alandaki gelişmeler doğrultusunda değişiklik gös- terebileceği göz önünde bulundurulmalıdır. -- 42 of 46 -- Etken Yapay Zekâ (Agentic AI) 41 Çalışmanın Hazırlanmasında Faydalanılan Kaynaklar21 Centre for Information Policy Leadership (CIPL): Agentic AI: Fostering Respon- sible and Beneficial Development and Adoption, 2025, https://www.informa- tionpolicycentre.com/uploads/5/7/1/0/57104281/cipl_agentic_ai_white_pa- per_nov25.pdf. European Data Protection Supervisor (EDPS): Glossary, https://www.edps.euro- pa.eu/data-protection/data-protection/glossary_en. European Data Protection Supervisor (EDPS): Our Works By Topics: Privacy by Default, https://www.edps.europa.eu/data-protection/our-work/subjects/pri- vacy-default_en. European Data Protection Supervisor (EDPS): Our Works By Topics: Privacy By Design, https://www.edps.europa.eu/data-protection/our-work/subjects/pri- vacy-design_en. European Data Protection Supervisor (EDPS): TechSonar 2025-2026 Report, 2025, https://www.edps.europa.eu/system/files/2025-11/25-11-25_techso- nar-2025-2026_en.pdf. European Parliamentary Research Service (EPRS): EU Guidelines on Ethics in Ar- tificial Intelligence: Context and Implementation, 2019, https://www.europarl. europa.eu/RegData/etudes/BRIE/2019/640163/EPRS_BRI(2019)640163_ EN.pdf. Future of Privacy Forum (FPF): Minding Mindful Machines: AI Agents and Data Protection Considerations, 2025, https://fpf.org/wp-content/uploads/2025/04/ Minding-Mindful-Machines_-AI-Agents-and-Data-Protection-Considerati- ons.pdf. International Organization for Standardization (ISO): ISO/IEC 22989:2022, htt- ps://www.iso.org/standard/74296.html. United Kingdom Government Digital Service: AI Insights: Agentic AI, 2025, ht- tps://www.gov.uk/government/publications/ai-insights/ai-insights-agentic-a- i-html#what-is-agentic-ai. U.S. Departmant of Transportation: Vehicle-to-Everything (V2X) Communi- cations: Quick Glance at Benefits and Costs from V2X Use Cases, 2025, 21 Bu çalışmada faydalanılan internet sitesi adreslerinin geçerliliği 22.01.2026 tarihinde teyit edilmiştir. -- 43 of 46 --

i-html#what-is-agentic-ai. U.S. Departmant of Transportation: Vehicle-to-Everything (V2X) Communi- cations: Quick Glance at Benefits and Costs from V2X Use Cases, 2025, 21 Bu çalışmada faydalanılan internet sitesi adreslerinin geçerliliği 22.01.2026 tarihinde teyit edilmiştir. -- 43 of 46 -- Etken Yapay Zekâ (Agentic AI) 42 https://www.itskrs.its.dot.gov/success-strategies/snapshot/vehicle-everyt- hing-v2x-communications. World Economic Forum (WEF): AI Agents in Action: Foundations for Evaluation and Governance, 2025, https://reports.weforum.org/docs/WEF_AI_Agents_ in_Action_Foundations_for_Evaluation_and_Governance_2025.pdf. World Economic Forum (WEF): Navigating the AI Frontier: A Primer on the Evolution and Impact of AI Agents, 2024, https://reports.weforum.org/docs/ WEF_Navigating_the_AI_Frontier_2024.pdf. -- 44 of 46 -- -- 45 of 46 -- Nasuh Akar Mh. 1407. Sk. No:4 06520 Çankaya/Ankara Tel: 0312 216 50 00 www.kvkk.gov.tr -- 46 of 46 --