コンテンツ制作をスピードアップするために、多くの企業がChatGPT、Gemini、Claude、LLaMAなどの生成AIツールを導入しています。たしかに、これらのツールは文章作成のスピードと流暢性を提供します。しかし、構造化コンテンツやコンプライアンスに関わるコンテンツの制作に限って言えば、その利用は往々にして深刻なリスクを招きます。

問題は、汎用AIツールの文章作成能力ではなく、それが企業コンテンツの運用に不可欠な構造化ルールに従っていない点です。汎用AIは企業のスキーマ、メタデータロジック、コンテンツ公開フレームワークを順守するようにはトレーニングされていません。代わりに公開データからパターンを再現しますが、生成されるパターンが一見正しく見えても、コンテンツの検証やローカライズ、あるいはコンプライアンスチェックにおいて失敗する可能性があります。

Gartnerは、データ品質の低さ、不十分なリスク管理、コストの増加、ビジネス価値の不明確さといった理由によって、企業の生成AIプロジェクトの少なくとも30％が、2025年末までにPoC（概念実証）後に放棄されると予測しています（英語）。

同社のディスティングイッシュト バイス プレジデント アナリストであるリタ サラム（Rita Sallam）氏は、次のように補足します。「昨年の盛り上がりを経て、経営陣は一刻も早く生成AI投資から成果を得たいと考えているものの、組織はその価値の証明と投資の回収に苦戦しています。取り組みの範囲が拡大するにつれ、生成AIモデルの開発・導入に伴う財務的負担がますます重くのしかかっています。」

これらの課題は、革新性だけでなく運用までも考慮したAI戦略の策定が喫緊であることを示しています。構造を伴わないスピードはリスクを生みます。持続可能な拡張のためには、適切なガバナンスのもとでAIを活用することが不可欠です。

隠れたリスク：汎用生成AIの出力が、正しく見えても検証に失敗する可能性  

汎用AIツールは、Wiki上のドキュメントやフォーラム投稿、雑多なチュートリアルなどを含む、膨大なオープンwebコンテンツでトレーニングされているため、以下のような傾向があります。

• 表面的な類似性だけに基づいて整合性のないメタデータを生成する

• 不完全なサンプルなどをモデルにして非準拠な構造を学習する

• 求めている構造に準拠していなくても、シンプルな実例を優先してしまう

• 構造的正確さより文体の流れを重視する

これらの傾向は以下の問題を引き起こす可能性があります。

• コンテンツ公開ワークフローの断絶

• ローカライゼーション効率の低下

• 規制監査上の問題

• 手動レビューの負担増大

• 誤表記や翻訳エラーによる評判の毀損

• ポリシー準拠コンテンツの誤表示による法的・財務的リスク

汎用生成AIツールが個別の企業ルールを順守できない理由

コンテンツ制作支援プラットフォーム企業Writemore AIのCTOネイサン ギルモア（Nathan Gilmour）氏は、次のように述べています。「汎用AIが出力する文章に支障があるわけではなく、特定の企業のシステムにおける文章の作法を知らないことが問題です。汎用AIモデルは、ユーザー企業のスキーマ、メタデータ規則、コンプライアンスの境界に従うようにトレーニングされていません。つまり、見た目は正しく見えても、肝心な場面で破綻するコンテンツを生成することが多いのです。検証段階、翻訳時、公開失敗時、あるいは監査時に問題発生の可能性があります。」

ギルモア氏の指摘は、より深刻な運用リスクを浮き彫りにしています。汎用AIモデルは言語的な流暢性に最適化されており、構造的な忠実性を考慮しません。一方で、Adobe Experience Manager Guidesのような構造化された環境では、ルール順守を基盤としています。結論としては、組織にはオープンwebデータで訓練された汎用ツールではなく、内部スキーマに対してリアルタイムで検証を行い、管理されたワークフロー内で動作するAIシステムが必要です。

事例：ルール順守の重要性と、その欠如が及ぼす影響

構造化コンテンツ導入支援サービスCCMS Kickstartでは、汎用AIのルール順守能力を評価するため、想定シナリオを用いたテストを行いました。汎用AIモデルに厳格なドキュメント制約を課したうえでコンテンツの生成を指示するというものです。検証用スキーマを用意し、モデルにはプロンプトを使って期待される構造・要素順序・メタデータ規則の順守を明示的に指示したのです。

しかし、こうした明確な指示にもかかわらず、モデルの出力は公開トレーニングデータから抽出した統計的に馴染み深いパターンに回帰しました。見た目は洗練されていても、処理プロセスが必須としているスキーマの検証には失敗するパターンです。このコンテンツを公開すれば、コンプライアンスリスクの発生、処理プロセスが予期しないデータが原因となる、公開ワークフローの破綻、そしてコストのかかる手直し作業を引き起こしていたでしょう。幸い、CCMS Kickstartのチームは、構造化されたテストとスキーマベースの自動化レビューを通じて、公開前にこの問題を発見しました。

この事例は核心的な事実を明らかにしています。つまり、汎用AIツールは流暢さを最適化するものであり、正確性を最適化するものではないということです。企業基準に準拠したコンテンツを安全に再構築するため、CCMS Kickstartは企業チームと連携し、管理されたコンテンツシステム内でAIモデルの設計、テスト、運用化を支援します。賢明な企業は、初日から正確性、コンプライアンス、拡張性を確保します。

実質的な損害を招いた事例

汎用AIツールによるコンテンツ公開の失敗は単なる理論上の問題ではなく、すでに著名な組織において法的、業務的、評判上の影響を及ぼしています。未検証で制約のないAI出力は、構造と監視が欠如している場合はとくに、実質的なビジネスインパクトを引き起こし得ます。

• Air Canadaは、チャットボットが顧客に返金適格性を誤って説明した件（英語）で責任を認められました。裁判所は同社がAIの回答に責任を負うと判決を下しています。

• Levidow, Levidow & Oberman法律事務所の弁護士は、AIツールが生成した法廷提出書類を提出し、そこに架空の判例引用が含まれていた件で制裁を受けました（英語）。

• AI法務支援サービスDoNotPayは、AIが不正確な法的助言を提供した件（英語）でFTCと19万3,000ドルの和解に合意しました。

これらの事例はすべて同じ原則を示しています。組織は、AI生成か否かを問わず、出力内容に対して責任を負うということです。

期待事項の形式化に取り組む政府機関

世界各国の規制機関は、特に高リスク産業において、AIの使用方法、追跡方法、検証方法を定義するため迅速に動いています。これらの取り組みは、AIが生成したコンテンツが監視の対象外ではないことを強調しています。出力内容がマーケティング、法務、技術文書のいずれであっても、組織は生成されたものに対して責任を負い続けます。

• 2026年に発効予定のEU AI法（英語）は、汎用AIシステムに対する文書化と監視を義務付けています。

• FDAは医薬品・規制申請における生成AIコンテンツに関するガイダンスを発表（英語）し、透明性と検証の重要性を強調しています。

生成AIコンテンツは「正しく見える」だけでは不十分で、コンプライアンスが証明可能でなければなりません。

AIを活用したコンテンツ環境において企業が必要とするもの

ガバナンス、ブランド、運用基準を満たすため、企業向けAIコンテンツシステムは以下の機能を提供すべきです。

• スキーマ検証：企業文書構造、メタデータロジック、語彙管理へのリアルタイム準拠を確保

• コンテンツパターンの制限：公開web上の例に見られる非公式または非準拠の表現パターンの使用を防止

• 承認済みコンテンツのみを取得：モデルがアクセスできる表現を、内部のフレーズ、テンプレート、再利用可能なコンテンツブロックに限定

• 管理されたコンテンツフロー：Adobe Experience Manager Guidesなどのツールと連携し、モジュール化された開発と承認ワークフローを保証

• 監査対応出力：全てのアセットについて、スキーマから検証チェックポイントまでのトレーサビリティを維持

• 構造優先のレビュー文化：レビュー担当者が、トーンや言語品質だけでなく、スキーマへの準拠性も評価できる体制を構築

内部ビジネスルールの反映は構造化モデルの必須事項

標準化されたコンテンツモデルは、ある程度強固な基盤を提供しますが、それだけでは以下を含む組織が要請する内部ビジネスルールを確実に順守することはできません。

• ブランドコンプライアンスや法的表記

• メタデータの正確性とフィルタリングロジック

• ローカライゼーションのバリエーションと再利用パラメータ

コンテンツの品質と一貫性を維持するために、組織は部門、チャネル、市場を横断してどのようにコンテンツを公開、翻訳、管理するかを反映した「構造化のルール」を定義する必要があります。

コンテンツ運用コンサルティング企業Scriptorium Publishingの創設者兼CEOであるサラ オキーフ（Sarah O’keefe）氏は、次のように述べています。「生成AIは、コンテンツ作成を自動化することで、コンテンツベロシティを向上させる手段のひとつとして注目を浴びています。しかし皮肉なことに、正確で、高度に構造化され、意味的に豊かな情報を与えてはじめて、AIエンジンは最高のパフォーマンスを発揮するのです。」

オキーフ氏が指摘（英語）するように、多くの組織では現在、より高度なコントロール、優れた出力、リスク低減を目的に、厳選された内部コンテンツでトレーニングしたプライベートAIモデルを追求しています。

結論：エンタープライズAIは、構造化コンテンツを置き換えるのではなく補強するべきである

汎用AIツールはスピードと言語の流暢性を提供します。しかしルールの適用ができなければ、構造的に無効で運用上問題のある出力を生成するリスクがあります。

Adobe Experience Manager Guidesや同等の構造化オーサリング環境を活用する企業は、AIが管理されたスキーマに準拠した枠組み内で動作することを前提に、コンテンツベロシティを加速できます。

流暢性は重要です。しかし、組織のルールとの整合性、検証、追跡可能性はさらに重要です。最初からAIにガバナンスを組み込んだ企業こそが、Gartnerが警告する落とし穴（データ品質の低さ、不十分なリスク管理、コストの増加）を回避できる企業となるでしょう。Adobe Experience Manager Guidesのような構造化コンテンツ環境は、その実現を支援します。

Adobe Experience Manager Guidesの詳細と、私たちが目指すAIの未来についてご興味がある方は、ぜひtechcomm@adobe.comまでご連絡ください。

サイバル バッタチャルジー（Saibal Bhattacharjee）は、アドビのデジタル広告、ラーニング＆パブリッシング事業部門のプロダクトマーケティングディレクターです。サイバルはアドビに15年間勤務しており、現在は多様な製品ポートフォリオのグローバルな販売戦略および事業戦略を担当しています。担当製品は、市場をリードするクラウドネイティブのコンポーネントコンテンツ管理システム（Adobe Experience Manager Guides）から、接続されたマルチスクリーンTVプラットフォーム向けの広告およびサブスクリプション収益化製品（Adobe Pass）、コンテンツ著作およびデスクトップアプリのパブリッシング（Adobe FrameMaker、Adobe RoboHelp）まで多岐にわたります。

テクノロジー業界で21年以上の経験を持つサイバルは、エンタープライズソフトウェアにおける最も複雑な課題に情熱を持って取り組み、ソリューションを拡張可能なエンタープライズグレードの洗練された作品に変える、影響力の高いマーケティング、戦略、製品担当エグゼクティブです。10年以上にわたり、インド、米国、英国、ドイツ、日本にまたがるグローバルなGTMチームの構築、指導、管理を成功させてきました。彼は、コルカタのジャダプール大学で工学学士号、デリーの経営学部で経営学修士号を取得しています。

この記事は2025年8月20日（米国時間）に公開された***Why public GPTs fail at structured enterprise content — and what to do instead.***の抄訳です。

https://business.adobe.com/fragments/resources/cards/thank-you-collections/generative-ai