AIエージェントの「なぜ？」を記録するOSSツール

AIが判断を下すとき、「なぜそう決めたのか」って気になりませんか？私も業務でAIを活用していると、その根拠がブラックボックスになっていることへのモヤモヤをずっと感じていました。

そんな中、最近注目しているのが **Semantica**（`semantica-agi/semantica`）というオープンソースプロジェクトです。2025年6月25日にGitHubで公開されてからわずか数週間でGitHub Trending総合1位を獲得し、現在は13,600以上のスターと1,600以上のフォークを集めています。これは素直に「すごい勢いだな」と驚きました。

Semanticaは、LLMやエージェントフレームワーク（AIが自律的に動く仕組み）をそのまま使いながら、その下層に**意思決定の記録・因果推論・監査証跡**を追加するインフラレイヤーです。ポイントは、AIの推論エンジン部分がすべて決定論的——つまり確率に依存せず、ルールに基づいて動く——に設計されていること。「AIが自分自身を説明する」のではなく、外側から構造的に記録・検証するアプローチが、従来の説明可能AIと根本的に違うところだと感じました。

監査証跡はW3C PROV-O（W3Cが定めるデータ来歴の国際標準）に準拠しており、JSON・CSV・RDFでエクスポートも可能。ライセンスはMITで、`pip install semantica`だけで導入できるのも気軽でいいなと思います。

私たちRobbitsがAI導入システムを開発する場面でも、クライアントへの説明責任やコンプライアンス対応は避けて通れない課題です。「なぜこの判断になったか」をグラフとして追跡・提示できるSemانticaの仕組みは、実用的な選択肢として引き続き注目していきたいと思っています。

#Semantica #AIガバナンス #オープンソース