Krav til AI-leverandør i boligsektoren
Bed leverandøren vise kilder, hvordan data bevæger sig, hvem der har adgang, hvordan I sletter, og hvornår et menneske tager over.
Start med en smal pilot, hvor kilder, dataflow og menneskelig overtagelse kan forklares trin for trin. MCP-adgang skal bruge OAuth eller en personlig adgangsnøgle, angive organisation og tilladelser og kontrollere brugerens aktuelle rolle ved hvert kald.
Et godt leverandørmøde ender ikke med ordene “det kan systemet godt”. Det ender med, at I har set kontrollen, rollen og grænsen.
Bed om fire konkrete visninger
1. Samtaledata: Vis filtrering, gennemgang, eksport og permanent sletning. Adgangen er rollebegrænset, og sletning kan ikke fortrydes.
2. Styring: Vis samtykketekst og tidspunkt, en opbevaringsperiode mellem 1 og 3650 dage valgt af en bruger med ejerrollen, aftaler og auditspor. Det er produktkontroller, ikke juridisk rådgivning eller en garanti for, at I overholder reglerne.
3. Kompetence: Vis de rollebaserede AI-moduler, quizzer og beviser. Organisationen afgør selv, hvem der skal gennemføre dem, og om de opfylder et konkret juridisk behov.
4. Kontrollerede ændringer: Ved udvalgte handlinger gennem MCP kan I prøvekøre uden at ændre noget og kontrollere den aktuelle tilstand. De øvrige sikkerhedskontroller afhænger også af handlingen; tilsammen udgør de ikke én fælles godkendelse.
Sæt jura og drift hos de rigtige
Hvem godkender kilderne? Hvem må se samtaler? Hvem tager over ved konflikt, persondata eller et usikkert svar? Hvem vurderer aftalen? Hvis rollerne er uklare, er teknikken heller ikke klar til pilot.
Tag kontrollen med til mødet
Brug også GDPR-guiden og dokumentation af chatbot-effekt. Vil I gennemgå kravene mod BeboerChatBot, kan I kontakte os.
Relaterede veje: ansvarlig brug af AI i beboerservice, hvornår chatbotten skal eskalere til et menneske, hvorfor starte smalt med en beboerchatbot.