Enterprise RAG: Kurumsal Veriye Yetkiyle Erişen Yapay Zekâ

Enterprise RAG Nedir?

Enterprise RAG, RAG mimarisinin kurumsal veri kaynakları, kullanıcı yetkilendirmesi, metadata, data catalog, governance, lineage ve güvenlik politikalarıyla birlikte uygulanmasıdır.

Terimdeki “enterprise” bir ölçek iddiası değil, bir sorumluluk listesidir. Retrieval yöntemi aynı kalabilir; değişen, retrieval'ın kimin adına ve hangi kurallar altında çalıştığıdır.

RAG’ın Çalışma Biçimi

Temel bir RAG mimarisi şu şekilde çalışır:

Kullanıcı bir soru sorduğunda sistem önce soruyla ilişkili içerikleri bulur. Bulunan içerikler LLM'e context olarak verilir ve model yanıtını bu bilgilerden yararlanarak oluşturur.

Bu yöntem, genel amaçlı bir LLM'in kurumun kendi bilgileri üzerinde çalışabilmesini sağlar. Ancak gerçek kurumsal sistemlerde veri yalnızca dokümanlardan oluşmaz.

Kurumsal Bilgi Farklı Sistemlere Dağılır

Bir kurumun bilgi varlığı çok farklı sistemlere dağılmış olabilir:

• ERP
• CRM
• Data Warehouse
• Data Lake / Lakehouse
• Operasyonel veritabanları
• Doküman yönetim sistemleri
• E-posta ve bilgi tabanları
• IoT ve üretim sistemleri
• API'ler
• Analitik veri setleri

Bu nedenle kurumsal bir AI sisteminin yalnızca PDF, Word veya benzeri dokümanları vector database'e yüklemesi çoğu kullanım senaryosu için yeterli değildir.

Örneğin bir kullanıcı “Geçen çeyrekte hangi ürün grubunda satış düşüşü yaşandı ve bunun temel nedenleri neler?” diye sorduğunda cevabın bir kısmı dokümanlarda, bir kısmı Data Warehouse'da, bir kısmı ise operasyonel sistemlerde bulunabilir.

Enterprise RAG'ın görevi farklı kurumsal bilgi kaynaklarını AI tarafından kullanılabilir hale getirmektir.

Enterprise RAG Mimarisi

Kurumsal ölçekte mimari artık daha geniştir:

Bu mimaride retrieval, sistemin yalnızca bir parçasıdır. Asıl önemli konu AI'ın hangi bilgiyi, hangi kullanıcı adına, hangi kurallar altında kullanabileceğinin belirlenmesidir.

Yetkilendirme Retrieval’dan Ayrılamaz

Bir AI sistemi teknik olarak bir veriye erişebiliyor diye her kullanıcının o veriyi görmesi doğru değildir. Aynı kurumsal AI asistanını kullanan bir finans yöneticisi, bir satış çalışanı ve bir insan kaynakları çalışanı farklı veri erişim yetkilerine sahip olabilir.

Kullanıcı “Bu çalışan hakkında bildiğin her şeyi göster.” diye sorduğunda LLM'in cevabı yalnızca sorunun anlamına göre değil, kullanıcının veri erişim yetkilerine göre de belirlenmelidir.

Bu nedenle Enterprise RAG mimarisinde authorization, retrieval işleminden bağımsız düşünülemez.

Kauzas yaklaşımında kullanıcı ve AI uygulamalarının veri erişimleri kurumsal governance politikalarıyla birlikte ele alınabilir.

Yetkinin veri kaynağına kadar taşınması →

RAG ve AI Agent'lar

AI Agent'lar Enterprise RAG'ı kurumsal bilgiye erişmek için kullandıkları araçlardan biri olarak kullanabilir. Ancak Agent'lar bilgi erişiminin ötesinde API'leri ve kurumsal sistemleri kullanarak işlem de gerçekleştirebilir.

Bu nedenle Agent mimarilerinde veri erişiminin yanında Agent kimliği, araç yetkilendirmesi, aksiyon politikaları ve audit mekanizmalarının da ele alınması gerekir.

AI Agent Governance hakkında daha fazla bilgi →

Metadata ve Data Catalog

AI sistemlerinin kurumsal veriyi doğru kullanabilmesi için yalnızca verinin kendisini bulması yeterli değildir; verinin ne anlama geldiğini de bilmesi gerekir.

Örneğin `revenue`, `net_revenue` ve `recognized_revenue` gibi alanlar teknik olarak benzer görünmesine rağmen kurum içerisinde farklı iş anlamlarına sahip olabilir.

Data Catalog ve metadata katmanı şunları tanımlamaya yardımcı olur:

• Verinin tanımı
• Kaynağı
• Sahibi
• Sınıflandırması
• İlişkileri
• Kullanım politikaları

Bu nedenle Enterprise RAG mimarisinde metadata yalnızca data engineering problemi değildir; AI'ın kurumsal veriyi doğru yorumlayabilmesinin de bir parçasıdır.

Data Lineage

Bir AI sistemi bir cevabı hangi veriden üretti? Veri nereden geldi, hangi işlemden geçti, hangi veri setinden türetildi? Kurumsal AI sistemlerinde bu sorular giderek daha önemli hale gelir.

Data lineage, verinin kaynak sistemden AI uygulamasına kadar izlediği yolun takip edilmesine yardımcı olur.

Özellikle kritik karar süreçlerinde kullanılan AI sistemlerinde cevabın yalnızca ne olduğu değil, hangi veriye dayandığının anlaşılabilmesi önemlidir.

Structured + Unstructured Data

RAG çoğu zaman unstructured data ile ilişkilendirilir: PDF, Word, HTML, e-posta, teknik dokümanlar. Ancak kurumsal bilgi bununla sınırlı değildir. Structured data; satış, finans, stok, üretim, müşteri ve operasyon gibi birçok kritik bilgiyi içerir.

Bu nedenle gelişmiş Enterprise RAG mimarileri gerektiğinde hem unstructured retrieval hem de structured data query yaklaşımlarını birlikte kullanabilir.

Bir kullanıcı aynı konuşma içerisinde “Bu ürünün teknik dokümanındaki garanti süresi nedir?” ve ardından “Son 12 ayda bu üründen kaç tane sattık?” diye sorabilir. İlk soru doküman retrieval gerektirirken ikinci soru kurumsal veri platformunun sorgulanmasını gerektirir.

Enterprise AI'ın gerçek gücü bu iki dünyayı birleştirdiğinde ortaya çıkar.

RAG + Data Lakehouse

Kauzas'ın Enterprise RAG yaklaşımındaki önemli farklardan biri RAG sistemini kurumsal veri platformundan bağımsız ele almamasıdır. Kauzas Data Platform üzerinde bulunan Data Lakehouse, kurumsal verinin analitik ve AI kullanım senaryoları için ortak veri katmanlarından biri olarak kullanılabilir.

Bu yaklaşım AI projeleri için kurum içerisinde birbirinden bağımsız veri adaları oluşturmak yerine mevcut kurumsal veri altyapısının kullanılmasını hedefler.

Data Lakehouse nedir? Ayrıntılı mimari →

On-Premise Enterprise RAG

Enterprise RAG sistemlerinin public AI servislerinde çalışması zorunlu değildir. Doküman işleme, embedding, vector search, retrieval ve uygun LLM inference bileşenleri kurumun kendi altyapısında çalıştırılabilir.

Kauzas, Kubernetes tabanlı mimarisi sayesinde RAG ve diğer AI iş yüklerinin on-premise, private cloud veya uygun cloud altyapılarında çalıştırıldığı mimarileri destekler.

On-Premise AI Platform hakkında daha fazla bilgi →

Enterprise RAG ve Basit RAG Arasındaki Fark

İkisi aynı yöntemi kullanır ama aynı işi yapmaz. Fark, retrieval'ın etrafındaki katmanlardadır.

Kauzas ile Enterprise RAG

Kauzas AI Platform, kurumsal RAG uygulamalarının yalnızca LLM ve vector search katmanından ibaret olmadığı yaklaşımıyla tasarlanmıştır. Kauzas ekosisteminde Data Platform ve AI Platform birlikte kullanılarak şu katmanlar ortak bir kurumsal mimari içerisinde konumlandırılabilir:

• Kurumsal veri kaynakları
• Data Lakehouse
• Metadata ve catalog
• Governance
• Kullanıcı ve Agent yetkilendirmesi
• LLM
• RAG
• AI uygulamaları

Bu sayede RAG, bağımsız bir chatbot projesi olmaktan çıkarak kurumun Data & AI altyapısının bir parçası haline gelebilir.

Kauzas AI Platform'u inceleyin →

Sık Sorulan Sorular

Enterprise RAG nedir?

Enterprise RAG, Retrieval-Augmented Generation mimarisinin kurumsal veri kaynakları, yetkilendirme, metadata, governance, lineage ve güvenlik politikalarıyla birlikte uygulanmasıdır.

RAG sadece dokümanlarla mı çalışır?

Hayır. RAG yaygın olarak dokümanlarla kullanılsa da kurumsal AI sistemleri structured ve unstructured veri kaynaklarını birlikte kullanabilir.

RAG için vector database gerekli midir?

Vector search RAG sistemlerinde yaygın kullanılan retrieval yöntemlerinden biridir ancak her bilgi erişim problemi yalnızca vector search ile çözülmek zorunda değildir. Structured query, search ve farklı retrieval yöntemleri birlikte kullanılabilir.

RAG on-premise çalışabilir mi?

Evet. Embedding, retrieval, vector database ve uygun LLM bileşenleri kurumun kendi altyapısında çalıştırılabilir.

Enterprise RAG'da kullanıcı yetkilendirmesi nasıl çalışır?

Retrieval işlemi kullanıcının kimliği ve veri erişim yetkileri dikkate alınarak gerçekleştirilebilir. Böylece LLM'e kullanıcının erişme yetkisi olmayan verilerin context olarak gönderilmesinin önüne geçilebilir.

AI Agent ile RAG arasındaki fark nedir?

RAG, bir AI modeline ilgili bilgiyi sağlamaya odaklanır. AI Agent ise bilgiye erişmenin yanında araç kullanabilir, sistemlerle etkileşime geçebilir ve belirlenen görevleri gerçekleştirebilir. Bir AI Agent RAG'ı bilgi erişim mekanizmalarından biri olarak kullanabilir.