Medische & AI-Veiligheid

Wat MedCite Is

• Een klinisch evidentie-ophaals- en synthese-instrument voor zorgprofessionals
• Een op bronnen gebaseerde referentie die elke bewering koppelt aan gepubliceerde literatuur
• Een richtlijnen-eerst systeem dat nationale en Europese klinische richtlijnen prioriteert
• Een transparant instrument waar elke reactie kan worden geverifieerd aan de hand van de bronnen

Wat MedCite Niet Is

• Een medisch hulpmiddel onder de EU MDR 2017/745
• Een klinisch besluitvormingsondersteuningssysteem
• Een diagnostisch instrument of differentiaaldiagnose-generator
• Een behandelingsaanbevelings- of voorschrijfsysteem
• Een triage- of spoedbeoordelingsinstrument
• Een patiëntspecifiek besluitvormingsondersteuningssysteem

Menselijk Toezicht

Zorgprofessionals blijven volledig verantwoordelijk voor alle klinische beslissingen. MedCite-uitvoer moet worden geverifieerd aan de hand van primaire bronnen, lokale klinische richtlijnen en institutionele protocollen voordat het in enige klinische context wordt toegepast. De dienst is ontworpen om — niet te vervangen — professionele medische beoordeling.

Ingebouwde Veiligheidsfuncties

• Detectie van patiëntspecifieke zoekopdrachten — zoekopdrachten die individuele patiënten beschrijven, activeren uitsluitend evidentie-reacties met expliciete disclaimers
• Nooddetectie — potentiële noodzoekopdrachten worden gemarkeerd met begeleidende adviezen om lokale nooddiensen te contacteren
• Voorschrijf-beveiligingen — doseringszoekopdrachten ontvangen uitsluitend richtlijngekaderde informatie, nooit patiëntspecifieke instructies
• Citatiediscipline — elke feitelijke bewering moet worden ondersteund door een geciteerde bron
• Bronverificatie — gebruikers kunnen doorklikken naar originele bronnen voor onafhankelijke verificatie

Regelgevingscontext

De EU AI Act (van kracht sinds 1 augustus 2024) classificeert AI-systemen bestemd voor medische doeleinden als hoog-risico wanneer zij onder de medische hulpmiddelenwetgeving vallen. MedCite is bewust ontworpen als een evidentie-ophaals- en samenvattingsinstrument, niet als een medisch hulpmiddel of klinisch besluitvormingsondersteuningssysteem, om deze classificatie te vermijden. Ons beoogde doel, producttaal en technisch gedrag zijn alle afgestemd op deze positionering.

Clinical Evidence Planner

MedCite uses a Clinical Evidence Planner that transforms opaque AI search into an auditable decision pathway. Every query is classified into a clinical task (e.g., drug timing, treatment guideline, diagnosis), entities are extracted (drug, condition, procedure), and evidence retrieval is planned accordingly. The system exposes this reasoning so clinicians can inspect why sources were selected, validate the task interpretation, and understand the evidence basis for each answer.

Key Features

• Transparent task classification — see how MedCite interpreted your clinical question
• Entity extraction — drugs, conditions, and procedures are identified and normalised
• Task-driven retrieval — searches use answer-bearing concepts, not just topic keywords
• Answerability validation — evidence packs are checked for required clinical concepts before synthesis
• Deterministic fallback — known clinical patterns trigger structured query templates as rescue path
• Source-role prioritisation — guidelines and systematic reviews are boosted over case reports and imaging-only papers
• EU AI Act–aligned transparency — audit trail exports task, entities, sources, and validation results