「正しいAI」はどうつくる？ 世界が注目する日本発スタートアップCitadel AIが切り拓くAI品質の未来

企画書などの文書作成や市場分析、顧客コミュニケーションなどさまざまな業務で、生成AI活用が進んでいます。一方で、生成AIの信頼性や安全性確保のニーズもまた高まっているようです。そういったなかで「AIの品質検証」という新たな領域で注目を集めるのが、日本発のスタートアップ「Citadel AI（シタデルAI）」。シタデルAIのCOO（最高執行責任者）の松葉威人さんに、企業の生成AI活用の現在地、今後の展望について聞きました。

（松葉さんご自身のキャリアについては『フリーコンサルタント.jp』の「プロ人材インタビュー」をご覧ください。）

事実か間違いか見分けるシタデルAIの技術

シタデルAIは、生成AIが生み出す情報の正確性やリスクを検証し、安全に活用するためのツールを提供する企業だ。生成AIを利用する際、「ハルシネーション」と呼ばれる問題が発生することがある。これは、AIが事実とは異なる情報や本来存在しない情報を、あたかも事実であるかのように生成してしまう現象だ。シタデルAIはこのハルシネーション問題を含む生成AIのリスクに対応し、AIが誤った情報を生成していないか監視・検証するツールを開発している。

「ハルシネーションを極めて簡単に説明すると、松葉威人はどういう人ですか？と質問した結果、島根出身の弁護士ですという事実とは違う回答が返ってくる現象です。島根県出身でもなければ弁護士でもないということは、本人にはわかりますが、本人以外には間違っているか間違っていないか判断できない。AIはどんどん進化しているので、一般情報についてはハルシネーションが起きづらくなっていますが、企業におけるRAG等のユースケースを考えると、今後もなくなることはありません。日本語対応のAI品質評価ツールとして商用レベルで提供しているのは、現状、シタデルAIのみです」（松葉さん）

AIの回答を検証し、どこまでが正確で、どこからが誤りなのかを判別するシタデルAIの技術。この信頼性は、その導入実績を見ればわかる。シタデルAIのツールは、イギリスの認証機関であるBSI（British Standards Institution：英国規格協会）に審査ツールとして採用されており、AIの監査・認証プロセスにおいてすでに重要な役割を担っている。

金融機関やサントリーで採用

「世界の生成AI市場は急速に拡大していて、国内でも生成AIの活用は進んでいます。意外かもしれませんが、もっとも慎重な業界と思われがちな金融機関も生成AIを積極的に導入しているんですよ」と松葉さんはいう。金融機関では、膨大なルールや規定に基づく業務が多く、そういった業務は生成AIの活用によって大幅に負担を削減できる。

「大規模言語モデル（LLM）による生成に、社内規定集など企業独自の情報を組み合わせることで回答精度を向上させる、RAG（Retrieval-Augmented Generation：ラグ）という技術があります。このラグを使って社内規定の検索システムをつくるわけですね。これまで、産前休業の詳細を知りたい従業員は人事部にメールして確認していたのが、生成AIと企業独自の情報を組み合わせた検索システムなら、チャットに入力するだけですぐに詳細が出てきます。ただ、その出てきた内容が合っているか間違っているかを検証する必要がある。たとえば、産前休業は出産後42日間という返答と社内規定のデータを比較して合っているか、間違っているか都度都度自動でチェックする機能を持ったツールを、シタデルAIは提供しています」（松葉さん）

そのほかサントリーホールディングスでは、AIを活用した商品物流の需要予測の精度管理などにシタデルAIのツールが採用されている。医療、自動車といったグローバル企業への提供も進んでいる。

シタデルAI参画を決めた訳

「人生でこれまで出会った人々のなかでトップ3に入る天才」だと、創業メンバーでCTOのKenny Song（ケニー・ソン）氏を松葉さんは評する。ソン氏は、AIの中枢研究開発機関であるGoogle Brainのプロダクトマネジャーだった経歴を持つ。

「2020年の創業時、ケニーは25歳。この若き才能の下に集まったエンジニアたちも、日本の機械学習コミュニティでは名の知れた人物や、米国のWaymo（Alphabet傘下の自動運転車開発企業）で自動運転システムの開発に従事していた人物など優秀なタレントがごろごろいる。加えて、EUでAIの開発や運用を包括的に規制するAI法（Artificial Intelligence Act）が2024年8月に発効されるということが決まり、AIガバナンスの巨大市場が突如として現れたタイミング。伸びる会社というのは、上りのエスカレーターに乗っているようなもので、市場の上昇気流に乗って上っていくんですよ。タレントと市場の上昇気流の2つがそろったシタデルAIは勝てる、うまくいくという確信を持ちました」（松葉さん）

スタートアップドリームの実現を信じ、松葉さんは2023年Googleを辞めてシタデルAIのCOOに就任した。日本発のグローバルスタートアップを目指すシタデルAIの今後の課題は、「AIリスクに対する認知の向上」だ。

「AI技術は進化を続けますが、AIの品質は勝手に向上するわけではないんですよ。実はAIは開発したその日がいちばん品質が良いんです。運用が続くにつれて性能が低下していくリスクがあります。なぜかというと、AIの学習に必須のデータは、前処理をしたきれいなデータで開発しますが、実際に運用していくにつれてきれいなデータではなく、AIの判断を邪魔するイレギュラーなデータが山ほど飛んでくるからです。こうしたイレギュラーなデータが増えていくと正しく推論できません。そのため、シタデルAIが提供するツールが不可欠なのです」（松葉さん）

日本国内だけでなく、世界市場を見据えて成長を続けるシタデルAI。AIの信頼性を担保するという新たな領域で、日本発のグローバルスタートアップとしてどこまで飛躍できるのか。挑戦は、まだ始まったばかりだ。

『フリーコンサルタント.jp』では、松葉さんのキャリア構築の考え方などをお聞きしています。
プロ人材インタビュー記事は【こちら】をご覧ください。