İçeriğe geç
Proxmox'un Türkiye'deki tek yetkili partneri Proxmox'ta doğrulayın ↗ +90 212 639 45 43 [email protected]
Ana sayfa / Blog / Yapay Zekâ
Yapay Zekâ

Şirket belgelerinizle konuşan asistan: RAG ile kurumsal hafıza

Sözleşmeler, teknik dokümanlar, prosedürler… Yapay zekâya kendi belgelerinizi okutun, sorularınıza kaynak göstererek cevap versin.

GTM Open Source · 6 dakikalık okuma

"Geçen yıl X firmasıyla yaptığımız sözleşmede ceza maddesi neydi?" Bu soruya cevap bulmak bugün kaç dakikanızı alıyor?

Şirketlerin en değerli bilgisi, klasörlerde, e-posta eklerinde ve paylaşımlı sürücülerde dağınık duran belgelerdedir. Genel yapay zekâ modelleri bu belgeleri bilmez. RAG (Retrieval-Augmented Generation, getirme destekli üretim) tam bu sorunu çözer: Model, cevap vermeden önce sizin belgelerinizde arar ve cevabını o belgelere dayandırır.

RAG üç adımda nasıl çalışır?

  1. Belgeleri dizine eklemekPDF'ler, Word dosyaları, wiki sayfaları küçük parçalara bölünür ve anlamlarını temsil eden vektörlere çevrilerek bir vektör veritabanına yazılır.
  2. Soruya en yakın parçaları bulmakKullanıcı soru sorduğunda, soruya anlamca en yakın belge parçaları saniyenin altında bulunur.
  3. Kaynak göstererek cevaplamakDil modeli, yalnız bulunan parçaları kullanarak cevap yazar ve hangi belgeden aldığını gösterir.
KaynaklıHer cevabın altında hangi belgeden geldiği yazar
GüncelYeni belge eklendiği anda asistan onu da bilir
YetkiliKullanıcı yalnız erişim yetkisi olan belgeleri görür

Nerede fark yaratır?

  • Hukuk ve satın alma: Sözleşme maddeleri, şartname karşılaştırmaları.
  • Teknik servis: Ürün kılavuzları ve arıza kayıtlarından anında çözüm önerisi.
  • İnsan kaynakları: Yönetmelik ve prosedür soruları; yeni çalışanın ilk haftası.
  • Satış: Ürün kataloğu, fiyat politikası ve geçmiş tekliflerden hızlı cevap.
  • Kamu ve sağlık: Mevzuat ve iç yönergeler; verinin kurum dışına çıkmaması şart olan yerler.
RAG, modeli sizin kurumunuzun hafızasına bağlar. Model genel bilgiyi getirir; doğruluğu sizin belgeleriniz sağlar.

Neden kendi sunucunuzda?

RAG'in en değerli yanı, en hassas belgelerinizle çalışmasıdır. Sözleşmeleri, personel dosyalarını ya da müşteri yazışmalarını dışarıdaki bir servise yüklemek çoğu kurum için kabul edilemez. Proxmox üzerinde kurulan bir RAG sistemi, belgelerinizi kendi ağınızdan çıkarmadan işler:

Dış servis

  • Belgeler kurum dışına yüklenir
  • Kullanım arttıkça fatura artar
  • Model ve sürüm sağlayıcının kararı

Proxmox üzerinde kurum içi

  • Belgeler kendi sunucunuzda
  • Sabit donanım ve abonelik maliyeti
  • Modeli ve sürümü siz seçersiniz

Altyapı neye benzer?

Tek bir Proxmox sunucusunda: GPU'lu model sunucusu sanal makinesi, vektör veritabanı, belge işleme servisi ve sohbet arayüzü. Belgeler büyüdükçe Ceph üzerinde ortak depolama, kullanıcı arttıkça ek GPU. Hepsi aynı arayüzden yönetilir, Proxmox Backup Server ile yedeklenir.

Önce asistanı kuralım, sonra belgeleri bağlayalım. Kurum içi yapay zekânın ilk adımı.

Kurum içi asistan

Belgelerinizle konuşan asistanı birlikte kuralım

Belge türlerinizi ve kullanıcı sayınızı yazın; GPU sunucusu, Proxmox ve RAG kurulumuyla pilot önerelim.