大規模言語モデルよりも小規模言語モデルを使用すべき時

大規模言語モデル（LLMs）は効率性と信頼性の間で綱渡りを続けています。ユーザーはその効果を認めつつも、精度に疑問を抱いています。

一部のユースケースでは過剰な場合もあります。例えば、高い計算コストを考えると、社内の人事業務すべてにLLMsを使用することが最適な選択とは限りません。

こうした課題の中で、新しいタイプのモデルが台頭しています：小規模言語モデル（SLMs）。これらは特定の機能を実行するために、より小さなデータセットで訓練されたシンプルなモデルです。高効率、より高い信頼性、低コストのすべての条件を満たします。

最近の研究では、小規模言語モデルがエージェント型AIの未来であるとも言われています。この記事では、SLMがLLMよりも効率的なユースケースをリストアップしました。

様々なビジネス機能におけるSLMの主要ユースケース

SLMの導入をどこから始めるべきか迷っている方のために、一般的なビジネス機能におけるSLMの最適なユースケースをまとめました。

カスタマーサービス

LLMモデルはカスタマーサービスに役立ちますが、大きな注意点があります。これらのモデルは、インターネットからスクレイピングされた膨大なデータセットで事前訓練されています。この知識の一部は、特に会社のポリシーが具体的な場合、カスタマーサービスに適用できないかもしれません。顧客対応チャットボットが幻覚を起こすリスクが生じます。例えば、エア・カナダのウェブサイト上のカスタマーサービスチャットボットは、実際には存在しないポリシーに基づいて、顧客に弔慰金の返金を約束してしまいました。

SLMは顧客チャットボットや苦情ポータルにより適しています。これらのポータルは多くの場合、非常に反復的な問題/質問を扱い、参照する会社のポリシーも限られています。モデルは過去の顧客チケットデータと会社のポリシーで簡単に訓練できます。これだけで顧客に回答するのに十分です。

もちろん、SLMがすべてを処理できるわけではなく、ボットが質問に答えられない場合は、常に人間が対応できます。チャットボットの場合、顧客が電話できるサポート番号を提供できます。チケット管理プラットフォームの場合、SLMが既知の問題であれば自動解決し、そうでなければカスタマーサポート担当者に割り当てることができます。少なくとも、自動化が顧客に不可能なことを約束することはないと安心できます。

営業/マーケティング 

LLMは営業やマーケティングの一部のユースケース、特にコンテンツ作成において優れています。より大きなトレーニングデータが様々なトピックを扱うのに役立ちます。しかし、リード獲得/育成やパーソナライズされたアウトリーチなどのニッチなタスクにLLMを使用することは最適な選択ではないかもしれません。一般化された応答は見込み客に良い印象を与えません。

SLMはよりパーソナライズされたアウトリーチメッセージの作成に役立ちます。独自のデータセットでトレーニングしてリードを評価できます。過去に効果のあったアウトリーチメッセージを下書きし、SLMモデルを使用してそれに基づいてさらにアウトリーチメッセージを生成できます。SLMは一般的なAIアウトリーチメッセージから脱却するのに役立ちます。

金融 

LLMは一般的な市場分析に使用できます。しかし、不正検出やコンプライアンス監視などの高リスクタスクでは遅れをとっています。消費者とビジネスアカウントの両方で不正率が上昇しています。企業が不正検出システムを構築しているにもかかわらず、詐欺師はそれをバイパスする新しい方法を見つけ続けています。モデルは継続的な再トレーニングが必要です。ここでSLMが輝き、LLMは後方に下がります。

SLMと比較してLLMを再トレーニングするには、より多くの時間とリソースが必要です。SLMは最新の不正データで継続的に更新され、システムをより堅牢にすることができます。

コンプライアンスデータも同様です。LLMには古いコンプライアンス情報が含まれている可能性があり、見落としが生じる可能性があります。小さなデータセットでトレーニングされたSLMは、ナレッジベースに最新の規制のみが利用可能であることを確認するために、レビューと改良が容易です。

人事 

LLMは一般的な職務記述書、従業員とのコミュニケーション、またはトレーニングコンテンツの作成に優れています。コンプライアンスリスクの高いタスク（例：ポリシー文書、雇用契約書、移民文書の作成）は複雑になります。

国や州は労働法を更新し続けています。例えば、オーストラリア政府は育児休暇を2025年に24週間に増加し、2026年からさらに2週間延長される予定です。ニューヨークは最近、ギグワーカーの最低時給を引き上げました。日本はワークライフバランスと新しい親のための柔軟な勤務形態を推進し始めました。

LLMを使用するということは、バックエンドのナレッジベースが正確で最新であることを継続的に確認する必要があるということです。データベース内の古いポリシーファイルを誤って残しておくと、幻覚が生じる可能性があります。

小規模言語モデルは、ナレッジベースに対するより多くの制御とコンプライアンスのためのより多くの保証を意味します。例えば、Deel AIはコンプライアンス専門家によってキュレーションされた小規模言語モデルです。これらの専門家はナレッジベースを継続的に更新するため、最新かつ正確な回答を得ることができます。

ビジネスオペレーション

G2による新しいAI採用調査によると、企業の約75%が日常のビジネスオペレーションで複数のAI機能を使用しています。AIは運用効率を高め、生産性を向上させています。SLMとLLMの両方がその役割を担っています。

LLMはリスク管理、需要予測、サプライヤーレビューなどの戦略的タスクで輝いています。その膨大なナレッジベースは、提案を行う前にあらゆる角度から検討するのに役立ちます。一方、SLMは反復的な単純作業に最適です。請求書管理、出荷追跡、ルート最適化、身元調査、予測メンテナンスなどを考えてみてください。これらのタスクは限られたルールセットと会社の過去のデータで実行できます。

企業は日常的で反復的なタスクにSLMを使用することで恩恵を受けています。例えば、従業員の身元調査プラットフォームであるCheckrは、身元調査を自動化するためにLLMからSLMに移行し、より高い精度、より速い応答時間、コストの5倍削減を実現しました。

SLM対LLM：誰が勝利するのか？

SLMとLLMの比較において、答えはSLMとLLMのどちらかを選ぶことではありません。より良いアプローチは、それらをハイブリッドモデルとして一緒に使用することです。SLMとLLMはそれぞれ独自の長所と短所を持っています。SLMは明確に定義された範囲と限られたデータセットを持つタスクで優れた仕事をします。しかし、推論を必要とするタスクでは、LLMがはるかに良い選択です。

例えばサプライチェーン管理を例に取りましょう。サプライチェーン管理にはハイブリッドアプローチが適しています：

• LLMはリスク分析、需要予測などの戦略的タスクを担当
• SLMは大量で反復的な運用タスク（ルート管理、請求書処理など）を自動化

SLMとLLMを一緒に使用することで、サプライチェーンのあらゆる側面を処理する完全なモデルが作成されます。

カスタムトレーニングの準備ができている主要なSLMモデル

SLM実装を始める上での良い点は、微調整に利用できるモデルがあることです。ユースケースに応じて以下のいずれかを選択できます：

1. Meta Llama 3.1（8Bパラメータ）：多言語サポートを必要とするユースケースに際立つ高効率モデル
2. Microsoft Phi-3（3.8Bパラメータ）：強力な推論を必要とする超特定のタスクに最適な小型モデル
3. Google Gemma 2（2Bパラメータ）：テキストと画像の両方を処理するのに役立つマルチモーダル機能を備えた軽量モデル

SLMの使用がこれほど簡単だったことはない

より多くのSLMモデルが登場しているため、モデルをゼロから作成する必要はありません。ユースケースに合ったモデルを選び、そのための情報のナレッジベースを構築するだけで準備完了です。

\n