عميل أولاما: واجهة مستخدم محلية لنماذج اللغة الكبيرة للبحث الذي يركز على الخصوصية
عميل أولاما، الذي طوره شيرشير تشوراسيا، هو إضافة لمتصفح فايرفوكس توفر واجهة رسومية محلية للتفاعل مع نماذج اللغة الكبيرة على جهاز المطور. يتيح العميل للمستخدمين الدردشة مع النماذج المستضافة عبر أولاما، أو LM Studio، أو llama.cpp داخل المتصفح ويقدم أوضاع الشريط الجانبي والنوافذ المنبثقة للاستفسارات في السياق. تشمل القدرات الرئيسية توليد معزز بالاسترجاع، بحث قائم على المتجهات، عرض Markdown، وتصدير الدردشة، موجهة للمطورين والباحثين والمستخدمين المهتمين بالخصوصية.
العميل يحول مضيفي النماذج المحلية إلى مساعد داخل المتصفح
يوفر عميل Ollama واجهة دردشة رسومية تربط المتصفح بخوادم النماذج المحلية مثل Ollama و LM Studio أو llama.cpp، مما يزيل تعقيد سطر الأوامر. الإضافة تعمل داخل Firefox ومتصفحات أخرى قائمة على Chromium، ويتم إنشاء الاتصال عن طريق إدخال عنوان URL لنقطة النهاية المحلية في الإعدادات. نظرًا لأن العميل يفوض الاستدلال إلى خدمة محلية، فإن زمن الاستجابة وقدرات النموذج تعتمد على النموذج المثبت وآلة الاستضافة.
يدعم سير عمل أبحاث المطورين مع RAG والبحث المتجه
يدمج العميل سياق الصفحة في الاستفسارات ويمكّن من إنشاء محتوى معزز بالاسترجاع من الملفات المحلية، بينما يستخدم البحث الذكي تضمينات متجهة عبر تاريخ الدردشة والمرفقات. تغطية التعامل مع المرفقات تشمل مدخلات المحللين الشائعة وتقوم الإضافة بعرض Markdown مع تمييز بناء الجملة. تشمل المخرجات الرئيسية والتشغيل البيني:
- تصدير واستيراد جلسات الدردشة بتنسيق PDF و JSON
- ضبط المعلمات مثل درجة الحرارة والمطالبات النظامية المخصصة
- بحث ذكي على الملفات المرفوعة والنصوص المكتوبة
الخصوصية والشفافية تتوافق مع متطلبات الأمان التقنية
يفرض الأداة الاتصالات المحلية فقط بحيث تبقى المطالبات وتفاعلات الصفحة على جهاز المستخدم، وهي مفتوحة المصدر للسماح بفحص الأمان ومساهمات المجتمع. مقياس استخدام السياق يعرض مقدار نافذة سياق النموذج التي تم استهلاكها، مما يساعد عند بناء المطالبات للمدخلات الكبيرة. نظرًا لأنه لا يتطلب واجهة برمجة تطبيقات سحابية، يتم تجنب خروج البيانات إلى خدمات الطرف الثالث عن عمد، مما يحول المسؤولية عن الاستضافة الآمنة إلى المشغل.
أفضل خيار للمستخدمين الفنيين القادرين على استضافة النماذج محليًا
عميل أولاما هو خيار عملي للمطورين والباحثين الذين يحتاجون إلى الوصول عبر المتصفح إلى نماذج LLM المستضافة محليًا والتحكم في تدفق البيانات. التصميم يفضل الخصوصية والتكامل الوثيق مع المتصفح، مما يجعله مفيدًا لتصحيح الأخطاء التكرارية وتحليل الوثائق. يجب على المستخدمين الذين لا يمكنهم تشغيل مجموعة الاستدلال المحلية أو الذين يفضلون النماذج المستضافة عن بُعد أن يتوقعوا عدم التوافق مع سير العمل المعتاد لديهم.
