RAG
Assistant

AmaçObjective

Belgelerin ve sorguların cihaz dışına çıkmadığı, kapalı ortamda çalışabilen bir soru-cevap asistanı kurmak.

To build a Q&A assistant able to run in a closed environment, where neither the documents nor the queries leave the device.

YaklaşımApproach

Belgeleri parçalara ayırıp embedding'e dönüştürdü ve SQLite üzerinde sakladı. Sorgu geldiğinde ilgili parçaları seçen vektör arama katmanını kurdu; yanıt üretimini Microsoft Foundry Local üzerinde çalışan bir dil modeline bağladı. Erişim, arama ve üretim katmanlarının tamamını yerelde tutarak dış servis bağımlılığını ortadan kaldırdı.

Chunked the documents, converted them to embeddings, and stored them in SQLite. Built the vector search layer that selects the relevant chunks for a given query, and connected answer generation to a language model running on Microsoft Foundry Local. Kept retrieval, search, and generation entirely local, removing any external service dependency.

SonuçResult

Tek makinede, dışarıya istek göndermeden çalışan bir asistan ortaya çıktı. Bu sayfadaki demo, aynı sistemin kimlik doğrulamalı bir proxy üzerinden dışarı açılmış hâli.

The result was an assistant running on a single machine with no outbound requests. The demo on this page is the same system exposed through an authenticated proxy.