En intern assistent blir användbar när den hittar rätt underlag för rätt person. Börja därför med en avgränsad dokumentsamling och några frågor som teamet ofta får. Att koppla in alla företagets mappar gör det svårare att förstå både kvalitet och åtkomst.
Bestäm också om uppgiften är att hitta ett dokument, sammanfatta innehållet eller ge ett svar med källhänvisning. Det är olika krav, även om samma chatt används för alla tre.
Välj dokument som någon ansvarar för
Utse en ägare som kan avgöra vilken version som gäller. Markera gamla instruktioner och motstridiga dokument innan de blir sökbara. En assistent ska inte behöva välja mellan två giltiga men oförenliga rutiner.
Ett illustrativt första område är företagets godkända instruktioner för reseräkningar. Ett lämpligt test kräver inte att assistenten får tillgång till faktiska medarbetares utlägg eller privata uppgifter.
Visa var svaret kommer ifrån
Begär att ett svar kan kopplas till ett specifikt dokument och relevant avsnitt. En hänvisning är dock bara användbar om den faktiskt stödjer påståendet. Granskaren måste kunna öppna källan och jämföra.
Vid dokumentbaserad AI kan delar av underlaget skickas till en extern leverantör. IMY:s vägledning tar upp att även sådana upplägg behöver bedömas ur dataskyddsperspektiv. En intern sökruta betyder inte automatiskt att behandlingen stannar internt.
Testa behörighet som en egen funktion
Kontrollera att användaren bara kan få svar från material personen får läsa. Prova samma fråga med olika roller. Testa också vad som händer när ett dokument tas bort eller en medarbetares åtkomst ändras.
Behörighetskontroll behöver fungera i sökning, lagring och svargenerering. Ett löfte i chattens instruktion att inte avslöja information räcker inte som åtkomstskydd.
Bygg ett litet facit
- Frågor där ett tydligt svar finns i ett aktuellt dokument.
- Frågor där två källor behöver jämföras.
- Frågor där underlaget motsäger sig självt.
- Frågor som användaren inte har rätt att få besvarade.
- Frågor där korrekt utfall är att inget svar hittades.
Förvalta även efter införandet
Bestäm hur nytt material läggs till och när borttaget material försvinner ur sökningen. Gör om testfrågorna efter ändringar i dokument, behörigheter eller modell. Följ felaktiga hänvisningar och obesvarade frågor som konkreta förbättringar, inte bara antalet ställda frågor.
