2024年12月25日 12:47
カラクリは、日本語に特化した生成AIのガードレール「KARAKURI Guardrails」β版の提供を開始した。
生成AIの商用利用拡大を後押しした重要な契機の一つは、OpenAI社のChatGPTにおける初期ガードレール対策の導入だった。2022年11月、OpenAIは有害、不適切、または危険な可能性のあるコンテンツを制限する初期のガードレール機能を実装し、生成AIの倫理的使用に関する業界標準を作り始めた。この先駆的な取り組みを受けて、Google、NVIDIA、AWSなど主要なグルーバル企業が相次いでガードレール機能の強化に注力している。しかし、これらのグローバル基準は主に英語圏の文脈に最適化されており、日本の独自の言語的・文化的特性を十分に反映しきれていない。
「KARAKURI Guardrails」は既存のテック各社が提供するガードレール機能（有害コンテンツ検出、プライバシー保護、コンプライアンスチェックなど）に加え、日本語独自の表現や慣習に即した高度な検知・制御を実現する。また企業固有の要件やポリシーに合わせたカスタマイズが可能で、より精緻なリスク管理と安全なコミュニケーション環境を提供する。主な機能は、「ハルシネーションリスクの検知」「文脈逸脱の検知」「攻撃的行為の検知」「個人情報の検知」「禁止ワード、禁止トピックの検出」。
