LLM はアプリケーションの前面に置かれるだけでなく、アプリケーションの内部でも使われるようになってきました。
重要なのは、LLM がバックエンドロジックの役に立つかどうかではありません。どんな種類のバックエンド処理に本当に向いているのか、です。
LLM が得意なのはセマンティックなバックエンド処理であって、あらゆる決定論的なバックエンドタスクではありません。
この区別は、サポートのトリアージや多言語の正規化といったタスクが LLM に自然になじむ理由を説明してくれます。そして、こうしたタスクでは開発者が想像するよりずっと早い段階から小さなモデルが実用になる理由も説明してくれます。
セマンティックなバックエンド処理とは、雑然とした人間の入力を理解し、システムの残りの部分が扱える構造化されたアクションに変換することが難所になっているバックエンドタスクを指します。
たとえば次のようなものです。
これらのタスクの本質は、厳密な記号的実行ではなく解釈にあります。入力は自由記述で、表記も揺れ、多言語が混ざり、曖昧なこともしばしばです。仕事は、ユーザーが何を意図したのかを理解し、その意味を正しいバックエンドのアクションに対応づけることです。
そこが LLM の輝く領域です。
サポートのトリアージを例に取ります。
ユーザーは社内のきれいなスキーマに沿って問い合わせを書いてはくれません。自分の言葉で、用語もばらばらに、詳しさもまちまちに問題を説明します。ですがバックエンドが必要としているのは完璧な要約ではありません。適切なカテゴリ、緊急度、担当者、エスカレーション経路といった、運用に使える情報です。
これはセマンティックな解釈の問題です。難所は、雑然とした言葉を読み取って正しい運用上の判断に変えることにあります。
同じパターンは多言語の正規化にも現れます。
これはしばしば翻訳として説明されますが、正規化と捉えたほうが役に立ちます。多くのプロダクトで本当の仕事は、単に文を翻訳することではありません。ユーザーがどんな言語や言い回しで書いてきても受け止め、ひとつの正規化されたバックエンド表現に落とし込むことです。
ユーザーは英語で書くかもしれませんし、日本語やフランス語、あるいはその全部が入り混じった雑な文章かもしれません。LLM はそうしたばらつきを吸収し、意味を取り戻し、それでも同じバックエンド構造に対応づけられることが多いのです。
サポートのトリアージと多言語の正規化は、表面的には別物に見えます。ですが構造としては同じ家族、つまりセマンティックなバックエンドタスクに属しています。
どちらも、雑然とした人間の言葉をバックエンドシステムが動かせる何かに変える仕事です。
小さなモデルが面白くなるのはここからです。
一部のバックエンドタスクでは、フロンティアモデルと小さなモデルの差は、多くの開発者が思っているより小さくなります。小さなモデルが一般的な能力で同等だからではなく、こうしたタスクが小さなモデルでもすでに備えている能力とうまく噛み合うからです。
事前学習で得た言語能力と噛み合う。
LLM は言語で学習されています。小さなモデルでも、意味を理解する、言い換えを吸収する、ノイズの多い言い回しを扱う、同じ考えの異なる表現をまたいで働くといった有用な能力をすでに持っていることが多いのです。
サポートのトリアージは意図の理解に依存します。多言語の正規化は言語のばらつきの解釈に依存します。どちらもバックエンドに帰結する言語理解のタスクです。
厳密な多段実行をあまり必要としない。
電卓のようなタスクと比べてみてください。
電卓型のタスクは厳密な記号的実行を要求します。途中の状態が毎ステップ正しくなければならず、小さなミスひとつで最終的な答えが壊れます。
サポートのトリアージや多言語の正規化は、通常そうした厳密な多段実行には依存しません。入力を十分に理解して、正しいバックエンド表現やアクションに対応づけられるかどうかに依存します。
電卓型のタスクはモデルに決定論的な実行器としてふるまうことを求めます。セマンティックなバックエンドタスクはモデルに意味の解釈者としてふるまうことを求めます。
LLM は後者の役割のほうにずっと自然に合っています。
とはいえ、LLM があらゆるバックエンドタスクに向いているわけではありません。
バックエンドの仕事には厳密で決定論的な実行に依存するものがあり、そこは LLM が本来得意とする場所ではありません。
たとえば次のようなものです。
タスクの難所が言語を理解して正しいバックエンドのアクションに対応づけることにあるなら、LLM はたいてい強力な選択肢です。
難所が厳密な実行にあるなら、相性はたいてい良くありません。
言いたいことを実際に見てみたい方は、インタラクティブデモをお試しください。
サポートトリアージ はセマンティックなルーティングの実演です。
多言語インテークの正規化 は、自由記述の多言語入力を正規化されたバックエンド表現に変える様子を示します。
PII マスキング は機微情報のセマンティックなマスキングを示します。
いずれもセマンティックなバックエンドタスクの例です。LLM を、その強みに合ったバックエンドの仕事に使うとどうなるかを示しています。
LLM が最も強いのは、雑然とした人間の入力を範囲の定まったバックエンドのアクションに変える仕事です。トリアージや正規化のようなタスクがよく噛み合うのはそのためであり、開発者が思うよりずっと早く小さなモデルが実用になるのもそのためです。
