AI社会の信頼性は説明責任か

信用と信頼は、会計と財務の関係に似ているように思える。信用は過去の実績や担保があるかないか。会計は過去の実績を示している。財務は現在より先、未来から現在をみている。信頼は未来をみている。
これまで信頼というのは、誰もが道徳的行動を取るという暗黙知、共通認識があった。今はそうでもなさそうだ。もはや、信頼は暗黙ではなく、契約や制度といったフレームワークの中で構築されるもので、それを維持しないといけないものに変化している。
近頃では、なんでもAIに相談し、鵜呑みにしてしまう、或いはAIがいったから自分はそうした、考えてもよくわからないし面倒だしAIも日々進化しているから、といった様々な理由でAIをそのまま自身の思考または意思決定者としてしまう傾向があるのではないか。脳は思考費用を避けるので仕方ないのかもしれないが。
AI社会の信頼性とは何だろうか。何を信頼の条件とするのか。ガバナンスという知恵をかりるなら、説明責任というのが問われるのではないか。説明できるエージェンシーを構築することがAI開発者の社会的役割かもしれない。