AI tools med MCP i praktiken

I förra artikeln gick vi igenom hur ni som organisation kan anpassa er sajt till andras AI-modeller. I den här texten diskuterar vi hur du kan optimera och anpassa dina egna modeller.

Ett sätt att utöka vad din språkmodell kan göra är vad som kallas tools eller function calling. Här går vi igenom lite hur tools fungerar och hur du själv kan bygga sådana med fokus på ett öppet protokoll som kallas Model Context Protocol (MCP).

Tools

Tools, som används för att utöka vad en språkmodell kan göra kan delas in i två grupper;

Information Retrieval. Tools i den här gruppen kan hämta information från externa källor som databaser, webben, filsystem. Målet är att utöka kunskapen utöver vad som redan finns i modellen så att den kan svara på frågor vars svar inte ingår i modellen. Det kan vara information som inte fanns tillgänglig när modellen skapades eller privat information som inte kunde användas när modellen skapades.

Taking Action. Tools i den här gruppen kan utföra saker, tex skicka epost, skapa meddelande på Slack, boka en lunch, beställa nya delar eller trigga någon process. Målet är att kunna automatisera en uppgift som annars skulle kräva mänskligt arbete.

Hur skapar man ett AI-Tool

För att skapa ett AI-tool finns en standard Model Context Protocol (MCP) som vi fokuserar på i den här artikeln men det finns även andra alternativ som t.ex:

• Function Calling (OpenAI API)
• Function Calling (Gemini API)
• Produktspecifika som Optimizelys Opals tools.

Model Context Protocol (MCP)

MCP tillhandahåller en standard för applikationer att dela kontextuell information med språkmodeller, erbjuda verktyg och funktioner till AI system och bygga sammansatta integrationer och arbetsflöden.

Protokollet använder JSON-RPC 2.0 för att kommunicera mellan

• Hosts: LLM som initierar anslutningar

• Clients: Anslutningar i host applikationen till servrar

• Servers: Tjänster som tillhandhåller kontext och funktioner

Det finns tre olika transportmedel för MCP kommunikation, där vi rekommenderar att använda Streamable HTTP eller STDIO.

Streamable HTTP använder HTTP POST för klient-till-server-meddelanden och optional Server-Sent Events för strömmningsfunktioner. Streamable HTTP erbjuder även remote server-kommuniktatiot och stödjer standard HTTP-autentiseringsmetoder. MCP rekommenderar använding av OAuth för att erhålla autentiseringstokens.

STDIO använder standard I/O-strömmar för direkt kommunikation mellan processer på samma maskin. Detta ger optimal prestanda och ingen nätverksoverhead. (SSE ska vi inte använda längre utan det är Streamable http för remote servrar som gäller).

Funktioner

En server erbjuder följande funktioner till klienter:

• Resources: Kontext och data för användare eller AI-modellen att använda

• Prompts: Templated messages och workflows för användning i modellen

• Tools: Funktioner som AI-modellen kan köra

Klienter kan erbjuda följande funktioner till servrar:

• Sampling: Tillåter servern att begära svar från klientens AI modell. Användbart när servens skapare vill ha tillgång till en LLM men vara oberoende av en specifik modell.

• Logging: Server kan skicka loggmeddelanden för felsökning eller övervakning

• Elicitation: Servern behöver mer information från användaren. Användbart när mer information behövs från användaren eller för att få tillåtelse att utföra en funktion.

​

Varför är MCP viktigt?

Vad MCP erbjuder beror på vilken roll du har;

• För Utvecklare gör MCP det enklare och snabbare att integrera med en AI applikation eller agent.

• För AI applikationer och agenter erbjuder MCP ett ekosystem av datakällor, verktyg och applikationer som ger utökade möjligheter och förbättrare upplevelsen för slutanvändare.

• För Slutanvändare ger MCP bättre AI applikationer och agenter som kan använda din data och kan utföra funktioner åt dig.