Lansarea HN: Respan (YC W24) - portal de AI Rust open source construit în jurul plugin-urilor

În acest fel, poarta le poate scrie înapoi în loc să le părăsească

Acesta gestionează instrumentele, imaginile și automatizează o aplicație bazată pe OpenAI Realtime API poate utiliza, de asemenea, Gemini Live prin port, deși nu toate caracteristicile traduc. O simplă aplicație de chat poate utiliza instrumentele MCP configurate prin port fără a implementa MCP-ul în sine. De asemenea, ne uităm la aplicații într-o structură comună.

Când clientul și furnizorul folosesc același API, păstrăm câmpurile specifice furnizorului în formatul lor nativ, chiar dacă structura noastră comună nu are un câmp pentru ele.

În acest fel, poarta le poate scrie înapoi în loc să le părăsească. Iată cum funcționează: Un adaptor oferă fiecare conexiune HTTP sau WebSocket primului format client care o recunoaște. Formatul trebuie să afișeze cererea ca un flux bidirecțional de evenimente de intrare și de ieșire tipărite.

Core rulează plugin-urile în ordine de înregistrare, permițându-le să selecteze un furnizor, să filtreze sau să înfășoare fie fluxul, să facă apeluri suplimentare, să răspundă sau să respingă o cerere. Un furnizor instruit deschide apoi conexiunea în aval.

Core rulează plugin-urile în ordine de înregistrare, permițându-le să selecteze un furnizor

În cazul în care clientul și furnizorul utilizează același format și niciun plug-in nu modifică sarcina utilă, bytele originale și câmpurile specifice protocolului pot trece neschimbat.

Atunci când formatele diferă, ele traduc prin tipuri separate pentru mesaje, apeluri la instrumente, rezultate, fluxuri și utilizare. Acest model de flux poate reprezenta atât solicitările HTTP de o singură dată, cât și sesiunile bidirecționale de lungă durată. Portalul este open source la https://github.com/respanai/respan-gateway sub licența MIT sau Apache 2.0.

Nu trebuie să folosești platforma găzduită de Respan și o poți rula direct pe mașina locală. Construiți-l de la sursă, adăugați cheile furnizorului și schimbați URL-ul de bază într-un client suportat.