Üretken yapay zekâ teknolojilerindeki gelişmeler, bu sorunların çözümünde yeni olanaklar sunmaktadır. Bu kapsamda Retrieval-Augmented Generation (RAG), Türkçe karşılığıyla getirim destekli üretim mimarisi, büyük dil modellerinin kuruma ait güvenilir bilgi kaynaklarıyla birlikte çalışmasını sağlayan bir yaklaşım olarak öne çıkmaktadır. RAG mimarisi, kullanıcının sorusuyla ilişkili belgeleri belirleyerek bu belgeleri yapay zekâ modelinin yanıt üretim sürecine dâhil eder. Böylece yanıtların yalnızca modelin önceden öğrendiği bilgilere dayanması yerine, kurumun kendi bilgi kaynaklarıyla ilişkilendirilmesi mümkün olur.
Bu makalede kamu kurum ve kuruluşlarında bilgi yönetiminin mevcut durumu incelenmekte, RAG tabanlı bir sistemin geliştirilmesine yönelik teknik ve yönetsel çözüm önerileri sunulmakta ve uygulamadan beklenen sonuçlar değerlendirilmektedir. Ayrıca bilgi güvenliği, kişisel verilerin korunması, kaynak gösterilebilirlik ve insan denetimi gibi konular ele alınmaktadır.
1. Giriş
Dijital dönüşüm, kamu kurumlarının yalnızca hizmetlerini elektronik ortama taşımasını değil, aynı zamanda kurumsal verilerini daha etkin kullanmasını da gerektirmektedir. Kurumlar tarafından üretilen yönetmelikler, yönergeler, meclis ve encümen kararları, genelgeler, faaliyet raporları, ihale belgeleri, kurumsal yazışmalar ve vatandaş başvuruları önemli bir bilgi birikimi oluşturmaktadır. Ancak bu bilgi birikiminin varlığı, ilgili personele ihtiyaç duyduğu anda doğru ve güncel bilgi sunulabildiği anlamına gelmemektedir.
Geleneksel arama sistemleri çoğunlukla anahtar kelimeler üzerinden çalışmakta ve kullanıcının aradığı bilgiye ulaşabilmesi için belirli belgeleri kendisinin incelemesini gerektirmektedir. Özellikle mevzuatın farklı maddelerinin birlikte değerlendirilmesi, geçmiş kararların karşılaştırılması veya farklı birimlerin ürettiği belgeler arasında ilişki kurulması gereken durumlarda bu yöntem yetersiz kalabilmektedir.
Büyük dil modelleri (Large Language Models – LLM), doğal dilde soruların anlaşılması ve yanıtların oluşturulması açısından önemli avantajlar sağlamaktadır. Bununla birlikte, yalnızca dil modeline dayanan sistemler güncel olmayan bilgiler üretebilir, kaynaklarda bulunmayan ayrıntıları gerçekmiş gibi ifade edebilir veya kurumun özel belgelerine erişemeyebilir.
Retrieval-Augmented Generation mimarisi, bilgi getirme ve metin üretme süreçlerini birleştirerek bu sınırlamaların azaltılmasını amaçlamaktadır. RAG, kamu kurumları açısından yalnızca bir sohbet aracı değil, kurumsal bilgiye erişimi destekleyen bir altyapı olarak değerlendirilebilir.
Bu çalışmanın amacı, RAG mimarisinin kamu kurumlarında uygulanabilirliğini incelemek ve mevcut durumun analizinden çözüm geliştirmeye, değerlendirme aşamasına kadar uzanan bir uygulama çerçevesi ortaya koymaktır.
2. Mevcut Durum Analizi
2.1. Kurumsal bilginin dağınık yapısı
Kamu kurumlarında bilgi, farklı teknolojiler ve iş süreçleri aracılığıyla üretilmektedir. Birimler tarafından hazırlanan Word ve PDF belgeleri, elektronik belge yönetim sistemleri, veri tabanları, kurumsal internet siteleri ve arşivler bu yapının temel bileşenleridir.
Bu sistemler kendi görevlerini yerine getiriyor olsa da aralarında bütünleşik bir bilgi erişim mekanizması bulunmadığında kullanıcılar ihtiyaç duydukları bilgiye ulaşmak için birden fazla kaynağı incelemek zorunda kalabilmektedir.
Örneğin bir belediyede imar uygulamasına ilişkin sorunun yanıtlanması; ilgili mevzuatın, yürürlükteki plan notlarının, kurum içi uygulama esaslarının ve önceki kararların birlikte incelenmesini gerektirebilir. Bu bilgilerin farklı sistemlerde bulunması, işlem süresini uzatabilir.
2.2. Personel deneyimine bağımlılık
Kurumsal bilgiye erişimin önemli ölçüde personelin deneyimine ve bireysel bilgi birikimine dayanması, kurumsal süreklilik açısından risk oluşturur. Deneyimli bir personelin görev değişikliği veya kurumdan ayrılması, belirli işlemlerin nasıl yürütüldüğüne ilişkin bilginin erişilebilirliğini azaltabilir.
Bu nedenle kurumsal hafızanın yalnızca belgelerin saklanması üzerinden değil, belgelerdeki bilgilerin bulunabilir ve ilişkilendirilebilir hâle getirilmesi üzerinden de değerlendirilmesi gerekir.
2.3. Geleneksel arama sistemlerinin sınırlılıkları
Anahtar kelime tabanlı arama sistemleri, kullanıcının kullandığı ifadelerle belgelerdeki ifadeler arasında yeterli örtüşme bulunmadığında ilgili sonuçları gözden kaçırabilir.
Örneğin vatandaşın gündelik dilde ifade ettiği bir talep, mevzuatta veya kurum içi belgelerde farklı teknik terimlerle açıklanmış olabilir. Bu durumda yalnızca kelime eşleşmesine dayalı arama, ilgili belgenin bulunmasını zorlaştırabilir.
RAG mimarisinde anlamsal arama tekniklerinden yararlanılarak ifadelerin anlam bakımından birbirine yakınlığı değerlendirilebilir. Bununla birlikte, anlamsal arama tek başına yeterli değildir; doğru belgelerin bulunması ve yanıtın bu belgelerle desteklenmesi ayrıca ölçülmelidir.
2.4. Yapay zekâ sistemlerinde güvenilirlik sorunu
Genel amaçlı yapay zekâ sistemleri, kamu kurumlarının güncel ve kuruma özgü bilgi kaynaklarını otomatik olarak bilemez. Kuruma ait bir kararın, yerel bir uygulamanın veya güncellenmiş bir yönergenin model tarafından doğru biçimde bilinmesi garanti edilemez.
Ayrıca dil modelleri, eksik bilgi karşısında ikna edici ancak yanlış yanıtlar üretebilir. Kamu hizmetlerinde bu durum, özellikle mevzuat yorumları, mali işlemler ve vatandaşların haklarını etkileyebilecek konularda dikkatle ele alınmalıdır.
Bu nedenle kamu kurumlarında yapay zekâ kullanımının temel şartlarından biri, yanıtların güvenilir kaynaklarla ilişkilendirilmesi ve gerektiğinde sistemin yanıt vermekten kaçınabilmesidir.
3. Çözüm Geliştirme: RAG Tabanlı Kamu Bilgi Sistemi
3.1. RAG mimarisinin çalışma prensibi
RAG mimarisi, bilgi getirme (retrieval) ve yanıt üretme (generation) aşamalarından oluşur. Sistem, kullanıcı sorusunu aldıktan sonra ilgili bilgi kaynaklarında arama yapar. Bulunan içerikleri dil modeline bağlam olarak sunar ve modelden bu içeriklere dayanarak yanıt oluşturmasını ister.
Temel işleyiş şu şekilde özetlenebilir:
- Kurumsal belgelerin toplanması ve işlenmesi.
- Belgelerin anlamlı metin parçalarına ayrılması.
- Metin parçalarının aranabilir bir indeks içerisinde saklanması.
- Kullanıcı sorusunun analiz edilmesi.
- Soruyla ilişkili belge parçalarının getirilmesi.
- Getirilen içeriklerin dil modeline sunulması.
- Yanıtın kaynaklarla ilişkilendirilerek kullanıcıya iletilmesi.
Bu yaklaşım, dil modelinin yeniden eğitilmesini her belge güncellemesinde zorunlu kılmaz. Yeni belgeler işlenerek arama altyapısına eklendiğinde, sistem bunları yanıt üretme sürecinde kullanabilecek şekilde güncellenebilir.
Bununla birlikte RAG, doğru yanıtı kendiliğinden garanti etmez. Başarı; belge kalitesine, arama yöntemine, modelin yeteneklerine, erişim denetimlerine ve değerlendirme sürecine bağlıdır.
3.2. Önerilen sistem mimarisi
Kamu kurumları için geliştirilecek RAG sisteminin birbirinden ayrılmış ve denetlenebilir bileşenlerden oluşması önerilmektedir.
Veri kaynakları katmanı: Mevzuat belgeleri, kurumsal yönergeler, kararlar, faaliyet raporları, sıkça sorulan sorular ve yetkili kullanıcıların erişimine açık kurumsal belgeler bu katmanda yer alır. Her belge için kaynak, tarih, sürüm, ilgili birim ve erişim düzeyi gibi üst veriler tutulmalıdır.
Veri işleme katmanı: Belgeler metin tabanlı veya taranmış formatlarda bulunabilir. PDF ve Office belgelerinden metin çıkarılması, gerektiğinde OCR uygulanması, yinelenen belgelerin belirlenmesi ve belge bütünlüğünün kontrol edilmesi bu aşamada gerçekleştirilir.
Arama katmanı: İşlenen içerikler, anlamsal arama için vektör indeksine aktarılır. Gerektiğinde anahtar kelime tabanlı arama ile vektör araması birlikte kullanılır. Bu hibrit yaklaşım, hem teknik terimlerin tam eşleşmesini hem de anlam bakımından ilişkili içeriklerin bulunmasını destekleyebilir. Sonuçların sıralanmasını iyileştirmek amacıyla yeniden sıralama (reranking) yöntemi de kullanılabilir.
Dil modeli katmanı: Arama sonucunda bulunan belgeler, kullanıcının sorusu ve yanıt kurallarıyla birlikte dil modeline iletilir. Modelden yalnızca sağlanan kaynaklara dayanması, kaynaklarda bulunmayan bilgileri açıkça belirtmesi ve gerektiğinde ek açıklama istemesi beklenir.
Kullanıcı uygulaması katmanı: Personelin doğal dilde soru sorabildiği, yanıtları ve ilgili kaynak belgeleri inceleyebildiği bir web arayüzü oluşturulur. Yetki düzeyine göre kullanıcıların görebileceği belgeler ve yanıtlar sınırlandırılır.
Denetim ve izleme katmanı: Sorgular, erişim kayıtları, kaynak kullanımı, yanıt kalitesi ve hata durumları belirlenen saklama politikalarına uygun olarak izlenir. Hassas veriler gereksiz yere log kayıtlarına alınmamalıdır.
3.3. Kamu kurumlarına yönelik kullanım senaryoları
RAG mimarisi, farklı kamu hizmetlerine uyarlanabilir.
Mevzuat ve kurumsal düzenlemeler asistanı: Personelin ilgili mevzuat maddelerini, genelgeleri ve kurum içi düzenlemeleri doğal dilde sorgulamasını sağlar. Yanıtlarda ilgili belge ve madde bilgileri gösterilebilir. Mevzuatın güncelliği ve yürürlük durumu ayrıca doğrulanmalıdır.
Meclis ve encümen kararları arama sistemi: Geçmiş kararların konularına göre bulunmasını, benzer kararların karşılaştırılmasını ve belirli bir konuya ilişkin kararların özetlenmesini destekler. Bu sistem, karar alma yetkisinin yerine geçmez; bilgiye erişimi kolaylaştırır.
Kurumsal yazışma ve arşiv asistanı: Yetkili kullanıcıların geçmiş yazışmalarda belirli bir konuya ilişkin belgeleri bulmasını ve bunları özetlemesini sağlar. Gizlilik dereceleri ve birim bazlı erişim hakları mutlaka korunmalıdır.
Vatandaş başvuruları ve çağrı merkezi desteği: Vatandaşların soruları ilgili hizmet birimleri, başvuru koşulları ve resmî bilgilendirme belgeleriyle eşleştirilebilir. Böylece çağrı merkezi personelinin bilgiye erişimi kolaylaştırılabilir ve uygun durumlarda başvurular doğru birime yönlendirilebilir.
İç denetim ve raporlama desteği: Birimler tarafından hazırlanan faaliyet raporları ve diğer kurumsal belgeler üzerinden belirli konuların araştırılması, belge karşılaştırması ve taslak rapor hazırlanması mümkün olabilir. Üretilen sonuçlar ilgili personel tarafından doğrulanmalıdır.
3.4. Güvenlik, kişisel veriler ve yönetişim
Kamu kurumlarında RAG uygulamasının başarısı yalnızca teknik doğruluğa değil, hukuki ve idari gerekliliklere de bağlıdır.
Öncelikle sistemin hangi veri kaynaklarına erişeceği belirlenmelidir. Her belgenin tüm personele açılması doğru bir yaklaşım değildir. Belge düzeyinde veya gerektiğinde belge bölümü düzeyinde erişim kontrolü uygulanmalıdır. Kullanıcı yetkileri, arama sonuçları oluşturulurken dikkate alınmalı; yetkisiz belgelerin içeriği dil modeline gönderilmemelidir.
Kişisel veriler bakımından 6698 sayılı Kişisel Verilerin Korunması Kanunu kapsamında işleme amacı, hukuki dayanak, veri minimizasyonu, saklama süreleri ve güvenlik tedbirleri değerlendirilmelidir. Kurum içi kullanım veya yerel sunucu üzerinde çalışmak, tek başına mevzuata uygunluğu garanti etmez.
Dil modelinin dış hizmet olarak kullanılması durumunda verilerin hangi altyapıya gönderildiği, nasıl saklandığı ve hangi koşullarda işlendiği incelenmelidir. Hassas veya kurum dışına çıkarılması uygun olmayan veriler için kurum içinde çalışan modeller ve yerel veri işleme seçenekleri değerlendirilebilir.
Bunun yanında RAG sistemleri, belge içerisine yerleştirilmiş kötü niyetli talimatlar gibi saldırılara karşı korunmalıdır. Belgelerde bulunan ifadeler, sistemin güvenlik kurallarını geçersiz kılan talimatlar olarak kabul edilmemelidir. Erişim kontrolü, girdi ve çıktı doğrulama, güvenlik testleri ve denetim kayıtları birlikte uygulanmalıdır.
Yapay zekâ tarafından üretilen yanıtlar, resmî karar veya idari işlem niteliği kazandırılmadan önce yetkili personel tarafından değerlendirilmelidir. NIST'in üretken yapay zekâ risk yönetimi yaklaşımı da sistemlerin yaşam döngüsü boyunca risklerin belirlenmesi, ölçülmesi ve yönetilmesinin önemini vurgulamaktadır.
4. Uygulama ve Değerlendirme Süreci
RAG sisteminin doğrudan kurumun tüm veri kaynaklarına uygulanması yerine, sınırları belirlenmiş bir pilot çalışma ile başlatılması önerilmektedir.
4.1. Birinci aşama: İhtiyaç ve veri analizi
İlk aşamada kurumda en fazla zaman alan bilgiye erişim süreçleri belirlenmelidir. Hangi soruların sık tekrarlandığı, hangi belgelerin kullanıldığı, hangi birimlerin sistemden yararlanacağı ve hangi verilerin hassas olduğu analiz edilmelidir.
Pilot uygulama için güncel, yetkili ve erişim koşulları açık belgelerden oluşan sınırlı bir veri kümesi seçilmelidir. Belgelerin güncelliği ve doğruluğu, sistemin yanıt kalitesi açısından kritik öneme sahiptir.
4.2. İkinci aşama: Prototip geliştirme
Seçilen belgeler işlenerek arama indeksine aktarılır. Soru-cevap arayüzü geliştirilir ve dil modeli arama sonuçlarıyla birlikte çalışacak şekilde yapılandırılır.
Bu aşamada modelin kaynak göstermesi, kaynaklarda yanıt bulunamadığında bunu belirtmesi ve kullanıcı yetkilerine uyması temel gereksinimler olarak belirlenmelidir.
4.3. Üçüncü aşama: Test ve doğrulama
Sistem, ilgili birim çalışanlarıyla birlikte hazırlanmış bir soru kümesi üzerinden test edilmelidir. Test soruları yalnızca kolay ve doğrudan sorulardan oluşmamalı; farklı ifadelerle sorulan aynı soruları, birden fazla belge gerektiren soruları ve kaynaklarda yanıtı bulunmayan soruları da içermelidir.
Değerlendirme kapsamında şu ölçütler kullanılabilir:
- Getirim başarısı: İlgili ve doğru belgelerin arama sonuçlarında bulunma oranı.
- Yanıt doğruluğu: Üretilen yanıtın yetkili kaynaklarla ne ölçüde uyumlu olduğu.
- Kaynak desteği: Yanıttaki iddiaların gösterilen belgeler tarafından desteklenme düzeyi.
- Yanıtsız kalma başarısı: Yeterli bilgi bulunmadığında sistemin yanlış yanıt üretmek yerine bunu doğru biçimde belirtmesi.
- Yanıt süresi: Sorgunun tamamlanması için gereken süre.
- Yetki ihlali: Kullanıcıların erişmemesi gereken belge veya bilgilerin sonuçlarda görünmesi.
- Kullanıcı memnuniyeti: Personelin sistemin kullanılabilirliği ve sağladığı fayda hakkındaki değerlendirmesi.
Testler hem olağan kullanım koşullarında hem de güvenlik açısından riskli senaryolarda gerçekleştirilmelidir.
4.4. Dördüncü aşama: Pilot uygulama ve yaygınlaştırma
Pilot çalışma sonucunda belirlenen hatalar giderildikten sonra sistem sınırlı sayıda kullanıcıyla gerçek çalışma ortamında kullanılabilir. Kullanıcı geri bildirimleri ve ölçüm sonuçları doğrultusunda arama yöntemleri, belge işleme süreçleri ve model yönergeleri iyileştirilir.
Başarılı bir pilotun ardından yeni birimler ve veri kaynakları aşamalı olarak sisteme eklenebilir. Her yeni veri kaynağı için erişim hakları, veri kalitesi ve yanıt doğruluğu yeniden değerlendirilmelidir.
5. Beklenen Sonuçlar ve Tartışma
RAG mimarisinin kamu kurumlarında uygulanmasıyla kurumsal bilgiye erişim süresinin kısalması, personelin belge araştırma yükünün azalması ve kurumsal hafızanın daha etkin kullanılması beklenebilir. Ancak bu kazanımların düzeyi, kurumun mevcut bilgi altyapısına ve geliştirilen sistemin başarısına bağlıdır.
İlk olarak, farklı kaynaklarda bulunan bilgilerin tek bir doğal dil arayüzü üzerinden sorgulanabilmesi, personelin birden fazla belgeyi elle inceleme ihtiyacını azaltabilir. Böylece rutin bilgi araştırmaları için harcanan zamanın daha verimli kullanılması mümkün olabilir.
İkinci olarak, kaynak gösteren yanıtlar kurum personelinin üretilen bilgiyi kontrol etmesini kolaylaştırabilir. Yanıtla birlikte ilgili belgenin adı, tarihi, sürümü ve mümkünse sayfa veya madde bilgisi sunulduğunda doğrulama süreci daha şeffaf hâle gelir. Bununla birlikte kaynak gösterilmesi, yanıtın mutlaka doğru olduğu anlamına gelmez; kaynak ile iddia arasındaki ilişkinin de denetlenmesi gerekir.
Üçüncü olarak, kurumsal bilginin kişilere bağımlılığının azaltılması ve geçmiş kararların erişilebilir hâle getirilmesi kurumsal sürekliliği destekleyebilir. Ancak bu fayda yalnızca teknik altyapıyla sağlanamaz. Belgelerin düzenli güncellenmesi, sorumlu birimlerin belirlenmesi ve bilgi yönetimi süreçlerinin kurumsallaştırılması gerekir.
Dördüncü olarak, vatandaş hizmetlerinde RAG tabanlı asistanlar, sık sorulan soruların yanıtlanması ve başvuruların ilgili birimlere yönlendirilmesi gibi alanlarda destek sağlayabilir. Bu sistemlerin vatandaşların haklarını etkileyen işlemlerde tek karar mercii olarak kullanılmaması, gerekli durumlarda insan denetimine yönlendirme yapması önemlidir.
Bununla birlikte RAG mimarisi bazı sınırlılıklar da taşımaktadır. Hatalı veya güncelliğini yitirmiş belgeler, yetersiz arama sonuçları ve modelin kaynakları yanlış yorumlaması yanlış yanıtların oluşmasına neden olabilir. Büyük veri kümelerinin işlenmesi, altyapının kurulması, güvenlik tedbirlerinin uygulanması ve sistemin sürekli güncellenmesi de maliyet ve insan kaynağı gerektirir.
Bu nedenle RAG sistemlerinin başarısı yalnızca teknik olarak çalışmasıyla değil, kuruma sağladığı ölçülebilir fayda, güvenlik seviyesi ve sürdürülebilirliğiyle değerlendirilmelidir.
6. Sonuç
Kamu kurum ve kuruluşlarında dijital dönüşümün bir sonraki aşaması, kurumsal bilgiyi yalnızca dijital ortamda saklamak değil, bu bilgiyi güvenilir ve denetlenebilir biçimde kullanılabilir hâle getirmektir. Retrieval-Augmented Generation mimarisi, büyük dil modellerinin kurumsal bilgi kaynaklarıyla birlikte çalışmasını sağlayarak bu hedefe katkı sunabilecek yaklaşımlardan biridir.
Bu çalışmada ele alınan çözüm yaklaşımı; mevcut bilgi yönetimi süreçlerinin analiz edilmesi, güvenilir veri kaynaklarının belirlenmesi, RAG tabanlı bir prototip geliştirilmesi, sistemin doğruluk ve güvenlik açısından test edilmesi ve başarılı sonuçlar doğrultusunda aşamalı olarak yaygınlaştırılması esaslarına dayanmaktadır.
Kamu kurumlarında RAG uygulamasının temel başarı koşulları; veri kalitesi, güncellik, kaynak gösterilebilirlik, kullanıcı bazlı erişim kontrolü, kişisel verilerin korunması ve insan denetimidir. Bu unsurlar dikkate alınmadığında yapay zekâ uygulaması bilgiye erişimi kolaylaştırmak yerine yeni güvenilirlik ve güvenlik sorunları ortaya çıkarabilir.
Sonuç olarak RAG, kamu kurumlarında karar vericilerin yerini alan veya idari sorumluluğu ortadan kaldıran bir teknoloji olarak değil, personelin bilgiye erişimini ve değerlendirme kapasitesini güçlendiren bir destek altyapısı olarak ele alınmalıdır. Kuruma özgü ihtiyaçlarla uyumlu, ölçülebilir hedeflere dayanan ve kontrollü biçimde geliştirilen uygulamalar, kamu hizmetlerinin etkinliğini ve kurumsal bilgi yönetiminin niteliğini artırma potansiyeline sahiptir.