Hoe NS-medewerkers met ChatNS sneller en veiliger werken
De vraag
Gebruik van AI in een veilige omgeving
Toen generative AI sterk opkwam, zag de Nederlandse Spoorwegen (NS) een grote potentie voor AI-tools zoals ChatGPT om efficiëntie te verhogen. Tegelijkertijd brengt deze technologie ook risico’s met zich mee op het gebied van veiligheid en privacy. Dit zette NS voor een belangrijk vraagstuk: moesten ze AI-toepassingen zoals ChatGPT verbieden, of juist faciliteren en zo veel mogelijk veilig omarmen?
Samen ontwikkelden we een gecontroleerde, veilige AI-chatbot: ChatNS.
ChatNS ondersteunt NS-medewerkers in hun dagelijkse taken. Het stelt medewerkers in staat om informatie te vinden, documenten samen te vatten en complexe vragen snel te beantwoorden.
De uitvoering
Een eerste proof of concept
De eerste versie van het proof of concept is door een team jonge datatalenten gebouwd in slechts twee of drie vrijdagen.
Leo van der Meulen, Product Owner Advanced Analytics & Generative AI bij NS: “Die vroege versie stelde ons in staat om waardevolle inzichten op te doen en de richting te bepalen voor verdere ontwikkeling.”
Al snel zag NS dat om de experimentele versie naar een stabiel en bruikbaar product voor de hele organisatie te brengen, er behoefte was aan meer kennis en ervaring.
“In die fase heeft Cloud Republic ons geholpen om onze proof of concept snel om te zetten naar een eerste werkende versie. Ze brachten niet alleen de technische expertise mee, maar ook een duidelijke visie en pragmatische aanpak. Deze samenwerking zorgde voor een solide en snel eindresultaat.”
Leo van der Meulen
Product Owner Advanced Analytics & Generative AI
“Dibran’s eerdere ervaring en focus op praktijkgericht testen vormden een waardevolle aanvulling op het zorgvuldige werk van de beveiligingsteams, die prioriteit geven aan privacy en security.”
De oplossing
Retrieval Augmented Generation (RAG)
Leo: “ChatNS werkt op basis van RAG (retrieval-augmented generation) technologie. Het is als een open-boekexamen: naast zijn geleerde kennis kan hij zoeken in specifieke documenten voor gerichte antwoorden. Hij splitst documenten op in kleine fragmenten en haalt alleen de meest relevante stukjes informatie op voor elke vraag.”
Ook is het mogelijk om zelf een document tijdelijk te uploaden en deze met behulp van ChatNS te doorzoeken.
Buckets
ChatNS gebruikt ‘buckets’ om informatie op te slaan en informatie op te halen. Elke gebruiker heeft toegang tot specifieke buckets, afhankelijk van hun functie.
Leo Vermeulen
Product Owner Advanced Analytics & Generative AI
“Een aantal teams die getraind zijn in het gebruik van ChatNS kunnen ook zelf buckets aanmaken. Zo gebruikt afdeling Leren en Presteren ChatNS om opleidingsmateriaal voor treinmonteurs aan te bieden.”
Security & gegevensbescherming
Voldoet aan strenge Europese eisen
De tool voldoet aan de strenge Europese eisen voor gegevensbescherming en wordt gehost in Zweden, binnen de EU. Microsoft biedt daar de nieuwste AI-modellen aan, mede dankzij de ruime beschikbaarheid van duurzaam opgewekte energie. Omdat Zweden deel uitmaakt van de Europese Unie, blijven gegevens binnen de EU en voldoen we volledig aan de GDPR-richtlijnen.
Doorontwikkeling
Dankzij tool calling een patatje vinden op station
Bij het ontwikkelen van ChatNS heeft NS bewust gekozen voor een API-first-aanpak, een strategische keuze die zorgt voor flexibiliteit en schaalbaarheid in de toekomst. “Met tool calling raadpleegt ChatNS externe systemen via een API, om je zo het meest actuele antwoord te kunnen geven.” legt Leo uit. “Zo is het mogelijk om realtime informatie te krijgen, zonder dat we voor elke mogelijke vraag data in ChatNS zelf hoeven te laden.
Je kunt ChatNS nu bijvoorbeeld al vragen waar je een patatje kunt eten op station Utrecht. Deze informatie haalt hij dan weer uit het systeem dat alle restaurants bijhoudt op NS stations.”
Soevereiniteit
Flexibiliteit dankzij ondersteuning meerdere taalmodellen
ChatNS ondersteunt naast ChatGPT 4o andere opensource modellen zoals Llama 3.2 . Dit is bewust gedaan om te zorgen dat het bedrijf flexibel blijft. Leo: “Door meerdere taalmodellen te ondersteunen kunnen we snel schakelen en hebben we de flexibiliteit om, als dat nodig is, zo over te stappen naar een ander platform.”
De samenwerking
Een partnerschap
“Dibran, onze consultant, werd echt onderdeel van het team. Zijn kennis en ervaring gecombineerd met zijn pragmatische aanpak zorgden ervoor dat we snel van proof of concept naar een werkende versie konden gaan,” – Leo van der Meulen, NS
Het resultaat
Efficiënter werken met 1.300 gebruikers
Sinds de lancering van ChatNS is het aantal gebruikers snel gegroeid. Begin 2023 waren er nog 200 actieve gebruikers per week, een aantal dat inmiddels is gestegen tot meer dan 1.300. ChatNS bespaart medewerkers tijd. We gaan uit van gemiddeld 12 minuten per dag, wat resulteert in een aanzienlijke productiviteitsstijging voor de organisatie. Binnen vier maanden na lancering was de oplossing kostenneutraal, en de gebruikersefficiëntie blijft verder toenemen.
De API-first-aanpak zorgt ervoor dat ChatNS eenvoudig kan worden geïntegreerd met andere bedrijfsapplicaties en systemen. Dit maakt de tool niet alleen toekomstbestendig, maar biedt ook talloze mogelijkheden voor verdere optimalisatie. Integraties met systemen zoals de NS-wie-is-wie-tool of klantgerichte processen, zoals het plannen van servicetaken op stations, zijn slechts het begin. Met deze aanpak blijft NS flexibel en klaar om in te spelen op nieuwe ontwikkelingen in AI-technologie en bedrijfsbehoeften.
De klant
Afdeling DIA – Data Innovatie en Analyse
Bij de Nederlandse Spoorwegen (NS) werkt de afdeling Data, Innovatie en Analyse (DIA) aan datagedreven oplossingen voor de hele organisatie. De afdeling heeft ongeveer 400 medewerkers, waarvan 50 tot 60 werken met AI. Binnen het team zijn negen medewerkers betrokken bij generative AI. DIA levert oplossingen aan verschillende afdelingen, waaronder teams die dashboards bouwen voor specifieke bedrijfsbehoeften, maar ook generieke AI-diensten die voor heel NS bruikbaar zijn.
Voor complexe organisaties
Flexibele development teams voor gegarandeerd kennisbehoud
Complexe applicaties vragen om teams die je business écht begrijpen. Met managed resourcing van Cloud Republic krijg je niet alleen developers, maar bouw je duurzaam aan kennis over jouw unieke processen – kennis die behouden blijft, ook als je team op- of afschaalt.
Meer weten?
Neem contact op met accountmanager Renate. Ze vertelt je graag meer over onze werkwijze.
Renate Bekman
0622474832
r.bekman@cloudrepublic.nl
