AIが絶対に間違えない、ということはありません。
おひさま会では、万が一の誤りがあっても人が止められる仕組みを先に整えています。
医療機関が新しい仕組みをためらうとき、現場からいちばん多く出る声は「AIが間違えたらどうするの？」です。
本当の心配は精度の数字よりも、間違えたときに誰が責任を持ち、どうやって止められるかです。だからおひさま会では、機能の便利さより先に安全の原則を公開しています。
宛名の識別、書類の分類、フォルダ分けなど、非臨床の作業だけをAIに任せます。診断・処方・治療方針の判断には使いません。人と人が向き合う時間には、AIを割り込ませません。
医療書類の完成や対外的な送信は、必ず人が行います。FAX仕分けなどの事務処理では自信が高いものは仕組みが先に進めますが、自信が低いものは人が確認します。どの処理にも、人が止める道は必ず残します。
確信度が低いデータは「要確認」へ回します。処理を進めることより、安全に止められることを優先します。見落としを防ぐため、判断に迷うものは必ず人が確認します。
考え方の背景は、コラム「医療AIの壁は信頼」にまとめています。技術の中身ではなく、現場でどう信頼を積んだかの話です。