น้ำมะนาว: เซิร์ฟเวอร์ AI ท้องถิ่นสำหรับการโต้ตอบที่หลากหลายของลูกค้าและโมเดล
เลมอนเนด จาก Lemonade Inc. เป็นเครื่องมือเซิร์ฟเวอร์ MCP ที่ให้ความสามารถ AI ในท้องถิ่น มันรวมโมเดลในท้องถิ่นสำหรับงานต่าง ๆ เชื่อมต่อกับลูกค้า MCP ที่เข้ากันได้หลายราย เช่น GitHub Copilot และ Claude Desktop โปรแกรมนี้ยังรองรับแอปพลิเคชันที่ใช้มาตรฐาน OpenAI, Anthropic และ Ollama API พัฒนาโดยใช้ C++, Rust, Python และ React เลมอนเนด ถูกแจกจ่ายผ่านตัวติดตั้งแบบเนทีฟ, ตัวจัดการแพ็กเกจ, รูปภาพ Docker และไบนารีที่ฝังตัวได้ มันเสนอการประมวลผล AI ส่วนตัวโดยไม่มีค่าบริการจากภายนอก ปรับให้เหมาะสมกับฮาร์ดแวร์เฉพาะ แต่รองรับ NVIDIA GPUs และ x86 CPUs.
ทางเลือกที่แนะนำมากที่สุด
Lemonade เชื่อมต่อกับอะไร?
Lemonade ทำหน้าที่เป็นเซิร์ฟเวอร์ Model Context Protocol (MCP) ซึ่งช่วยให้การทำงานของ AI และ LLM ในท้องถิ่น มันเชื่อมต่อกับไคลเอนต์ที่รองรับ MCP ทุกประเภท รวมถึง GitHub Copilot, Claude Desktop, MCP Inspector, Cursor, mcp Python client, Claude Code, และ Cline นอกจากนี้ Lemonade ยังขยายการเชื่อมต่อโดยการสนับสนุนการเชื่อมต่อจากแอปพลิเคชันที่ใช้มาตรฐาน OpenAI, Anthropic, และ Ollama API ความเข้ากันได้ที่กว้างขวางนี้ทำให้มันทำหน้าที่เป็นศูนย์กลางสำหรับการอนุมานโมเดล AI ในท้องถิ่นทั่วทั้งระบบนิเวศของแอปพลิเคชันไคลเอนต์ที่หลากหลาย.
ฟีเจอร์และเครื่องมือหลัก
Lemonade เปิดเผยความสามารถของมันผ่านชุดวิธีหลัก MCP และเครื่องมือที่เรียกใช้ได้เฉพาะ วิธีหลักประกอบด้วย initialize สำหรับการเจรจาโปรโตคอล, notifications/initialized สำหรับการยอมรับจากไคลเอนต์, tools/list เพื่อจัดทำรายการเครื่องมือที่เรียกใช้ได้พร้อม JSON Schemas, tools/call เพื่อเรียกใช้เครื่องมือเฉพาะ, และ ping สำหรับการตรวจสอบสถานะการทำงาน เครื่องมือเฉพาะที่เรียกใช้ได้ผ่าน tools/call ได้แก่ lemonade_list_models สำหรับการค้นหาโมเดล, lemonade_chat สำหรับการทำงานของการสนทนา, lemonade_transcribe_audio สำหรับการถอดเสียง, lemonade_generate_image สำหรับการสร้างภาพ, และ lemonade_omni สำหรับการโต้ตอบหลายโหมด.
ใครคือผู้ใช้?
Lemonade เหมาะสำหรับผู้ใช้และผู้สร้างที่สนใจในการใช้งาน AI ในท้องถิ่น นักพัฒนา และผู้ที่ชื่นชอบ LLM มันถูกปรับให้เหมาะสมสำหรับ PC ที่มีฮาร์ดแวร์ AMD Ryzen AI, Radeon, และ Strix Halo แต่ยังรองรับ NVIDIA GPUs และ x86 CPUs โปรแกรมนี้มอบความสามารถ AI ในท้องถิ่นที่เป็นส่วนตัว หากความต้องการหลักของคุณคือบริการ AI ที่ใช้คลาวด์โดยไม่มีความต้องการในการประมวลผลในท้องถิ่นหรือความสนใจในการรวมโมเดลในท้องถิ่น ให้ข้ามส่วนนี้ไป.
เริ่มต้นอย่างไร
เซิร์ฟเวอร์จะตรวจสอบสิทธิ์โดยใช้ API key ที่ส่งเป็นตัวแปรสภาพแวดล้อม ทุกเส้นทาง API จะบังคับใช้การตรวจสอบสิทธิ์เมื่อ LEMONADE_API_KEY ถูกตั้งค่า และ Lemonade รองรับโปรโตคอลการขนส่ง HTTP แบบ Streamable MCP.
กรณีการใช้งาน
- การรันโมเดล AI ในท้องถิ่น: จัดการโมเดลสำหรับการสนทนา การเขียนโค้ด การพูด และการสร้างภาพผ่าน GUI/CLI หรือแอปพลิเคชันที่เข้ากันได้กับ OpenAI, Anthropic, หรือ Ollama.
- การสร้าง AI agents: ใช้ Lemonade เป็นเซิร์ฟเวอร์ MCP เพื่อเปิดเผยโมเดลในท้องถิ่นเป็นเครื่องมือ ช่วยให้ LLM สามารถโต้ตอบกับบริการภายนอกสำหรับ Tiny Agents.
- การโฮสต์ AI ด้วยตนเอง: ติดตั้งเป็นบริการในท้องถิ่นที่มีน้ำหนักเบา ปลอดภัย และเข้าถึงได้ทั่วเครือข่ายท้องถิ่นสำหรับการใช้งานส่วนบุคคลหรือในครัวเรือน.
Lemonade นำเสนอแพลตฟอร์มที่หลากหลายสำหรับ AI ท้องถิ่น เชื่อมต่อกับลูกค้าที่หลากหลายและสนับสนุนมาตรฐาน API หลายรูปแบบ มันให้การประมวลผล AI ส่วนตัวบนฮาร์ดแวร์ที่หลากหลาย รวมถึงส่วนประกอบ AMD ที่เชี่ยวชาญ GPU NVIDIA และ CPU x86 กลไกการเรียกเครื่องมือช่วยให้การพัฒนาเอเจนต์ขั้นสูงและการปรับใช้โมเดลที่โฮสต์เอง
