English

AI-assistenten en agents voor uw team

Een algemene chatbot kent uw documenten, klanten en werkwijzen niet. Ik bouw assistenten en agents die dat wel doen, met een bron bij elk antwoord en duidelijke grenzen aan wat ze mogen.

Vertel over uw project

Het probleem

Kennis zit in documenten, wiki's, tickets en hoofden van mensen. Het juiste antwoord vinden kost tijd, en nieuwe collega's stellen steeds dezelfde vragen.

Openbare chattools zijn verleidelijk, maar ze kennen uw context niet, weten niet wat een gebruiker mag zien en sturen uw gegevens naar buiten.

Hoe ik het aanpak

  1. Beginnen bij de vragen

    We verzamelen eerst echte vragen en taken, zodat we bouwen wat mensen nodig hebben.

  2. De juiste bronnen koppelen

    Documenten, wiki's, tickets of databases, zo geïndexeerd dat de assistent de relevante passages vindt en ze als bron noemt.

  3. Toegangsrechten respecteren

    Gebruikers krijgen alleen antwoorden uit bronnen die ze mogen inzien.

  4. Agents met duidelijke grenzen

    Als een assistent iets doet, zoals een ticket aanmaken of een record bijwerken, gebruikt hij een kleine set duidelijk afgebakende tools, en alles wat risico heeft vraagt om goedkeuring van een mens.

  5. De antwoorden meten

    Een testset met vragen en bekende antwoorden, zodat kwaliteit gemeten wordt in plaats van aangenomen.

Waar u op moet letten

  • Een assistent zonder bronnen is moeilijk te vertrouwen. Elk antwoord hoort te laten zien waar het vandaan komt.
  • Verouderde documenten geven verouderde antwoorden. Iemand moet eigenaar zijn van de bronnen.
  • Een agent die alles mag, is een beveiligingsrisico. Geef hem alleen de tools die hij nodig heeft.

Vergelijkbare projecten

Een eigen AI-werkomgeving met gespecialiseerde agents

Een zelf gehoste chatomgeving met agents voor verschillende taken, zodat het team AI kan gebruiken zonder gegevens naar een openbare chatapp te sturen. Een aparte API-laag logt het gebruik en bewaart antwoorden in een cache.

  • Agents voor verschillende taken in één chatomgeving.
  • Een API-laag tussen de agents en de modelaanbieders die het gebruik logt en antwoorden cachet.
  • Alles draait op infrastructuur die de organisatie al heeft.
  1. Vragen en documenten van het team
  2. Gespecialiseerde agents
  3. Laag voor logs en cache
  4. Antwoorden in de eigen omgeving van de organisatie

Lokale taalmodellen, alleen als het team ze nodig heeft

Taalmodellen die op de eigen GPU's van het team draaien, zodat er geen data naar een externe aanbieder gaat. Eén API bedient alle modellen. Een model start bij het eerste verzoek en stopt als niemand het gebruikt. Dan is de GPU weer vrij voor ander werk.

  • Eén OpenAI-compatibele API voor alle lokale modellen, waar teamleden hun chat- en codeertools aan koppelen.
  • Een dashboard toont welke modellen draaien, en beheerders kunnen elk model starten en stoppen.
  • Alles draait op hardware die de organisatie al heeft.
  1. Verzoek uit een chat- of codeertool
  2. Gedeelde API
  3. Model starten als dat nodig is
  4. Antwoord van het lokale model

Veelgestelde vragen

Kan het ChatGPT, Claude of een lokaal model gebruiken?

Elk daarvan. De keuze hangt af van uw gegevens, uw privacy-eisen en de kosten, en één gateway kan ze combineren.

Waar draait het?

In uw eigen omgeving of in een private cloud in de EU, gekoppeld aan uw bestaande inlogaccounts.

Wat is MCP?

Het Model Context Protocol is een open standaard om AI-assistenten te koppelen aan tools en gegevens. Ik gebruik het om assistenten een gecontroleerde set acties in uw systemen te geven.