グローバルテック企業と手を組み目指す未来 - 「マイクロソフト ジャパン パートナー オブ ザ イヤー 2024」受賞の背景に迫る
日本マイクロソフトが主催する「マイクロソフト ジャパン パートナー オブ ザ イヤー 2024」において、PKSHA TechnologyがBuilding with AI部門の受賞を果たしました。昨年のPKSHA Workplaceの受賞に引き続き、今年はPKSHAグループ全体の活動が評価されたことが受賞の背景にあります。
この記事では、アワード受賞で評価されたポイントを起点に、PKSHA Technologyが2023～2024年にかけて挑戦した新たな取り組みの数々を紐解いていきます。PKSHA Technology及びPKSHA Workplaceのエンジニア2名に、受賞の要因、評価された取り組み、そして展望について聞きました。
森下 賢志：PKSHA Technology AI Solution 事業本部 VPoE
東京大学での博士課程修了後、株式会社日立製作所ではストレージシステム高速化の研究、株式会社フィックスターズでは自社製品の機械学習開発に携わるなど、製品のコアとなる技術開発に貢献。2019年より株式会社PKSHA Technologyに参画し、様々な業界へのAIの社会実装を推進。主に教育業界のDXに関わり、複数のアルゴリズム導入や新規アプリ立ち上げを実施。また、金融・製造業・小売業の経験も豊富。2022年4月、現職に就任。
成定 怜士：PKSHA Workplace Workplace開発本部 AIヘルプデスク開発グループ ソフトウエアエンジニア/リーダー
神戸大学大学院工学研究科応用化学専攻を修了。ソフトウエアエンジニアとして複数の経験を積んだ後、2022年に株式会社PKSHA Workplaceに入社。AI SaaS開発部のリーダーとして「PKSHA AIヘルプデスク」の開発と運用を担当。プロダクトへのアルゴリズムの組み込みやヘルプデスク機能の実装を主導し、さらにプロダクトの安定性やパフォーマンス向上のためのSRE活動にも注力。
最先端技術の社会実装に大きく貢献――日本マイクロソフトとの連携は最適解だった
――今回の受賞にあたり、評価されたポイントについてお聞かせください。
森下：受賞のお話をする前に、PKSHAグループの事業領域について説明します。PKSHAグループは「未来のソフトウエアを形にする」というミッションを達成するために、先端技術の研究開発を行うLayer0、その技術をソリューションとして企業に提供するLayer1、さらに汎用性のあるプロダクトとして広く展開していくLayer2という3つの領域に分かれて事業を推進しています。昨年は、このLayer2において展開される「PKSHA AIヘルプデスク」の取り組みが評価され、グループ企業であるPKSHA Workplaceが同アワードの賞をいただきました。
そして今年はLayer2のみならず、Layer0、Layer1の取り組みも評価していただけたことで、PKSHA Technology全体での受賞が叶ったのかと思います。ここ1年マイクロソフト様とは様々な形で連携させていただくことがあり、Layer0では「PKSHA RetNet」モデルの開発、Layer1では主軸ソリューションの1つである「PKSHA LLMS」におけるAzure OpenAI Serviceを活用した複数の案件、そしてLayer2では「PKSHA AIヘルプデスク」を中心に複数プロダクトでの新たな機能実装を推進してきました。
――各Layerにおいて日本マイクロソフトとの連携が実現したのですね。
森下：そうですね。といっても私たちとしてはマイクロソフト様と連携することを目的としていたわけではなく、様々な選択肢がある中で社会実装に最適な方法は何かを模索してきたつもりです。その結論として、同社の技術を採用したり、連携をさせていただくことが最適と判断したことが非常に多かった、と捉えています。同社のLLMや周辺機能は非常に性能が高く、「これを使えばもっと面白いことができそうだ」という発想が次々に生まれました。
成定：「PKSHA AIヘルプデスク」については、昨年よりもさらにお客様の導入ハードルを下げるため、利用効率を高める機能を実装することができました。この機能を通じ、お客様により多くの価値を提供できるようになったことでMicrosoft Teamsの利用頻度向上に一定貢献できていることは、今回評価いただけたことにつながったと思います。
森下：PKSHAは、汎用的な技術をより実用的にする研究開発部門を持ちながら、ソリューション・プロダクト・自社事業といった複数の社会との接点も有しており、最先端技術の社会実装を高速に回せることが強みだと考えています。マイクロソフト様がSOTA（※）レベルの技術をすぐに利用可能な形で世の中に提供し、私たちがそれを特定のシーンで実用的なソフトウエアの形に磨き上げ、国内企業の様々な事業に組み込んでいくという連携は、双方の強みが活きる形だと考えています。今回評価された取り組みは、いずれもこの一連の流れが上手く行ったものなのかなと感じています。
※SOTA： "State Of The Art" の略語で、技術や研究分野において、現時点で最も進歩した、最先端のレベルや状態を指します。
日本マイクロソフトの協力のもと実現した世界初の独自LLM開発への挑戦
――取り組みのひとつである「PKSHA RetNet」開発について詳しくお聞かせください。
森下：2023年3月に「PKSHA LLMS」をリリースして以降、様々なソリューション開発を行ってきたのですが、そこで見つかった技術課題を通常のLLMとは異なる新たなアーキテクチャのLLMで解決しようとする試みが「PKSHA RetNet」の開発です。LLMソリューションにおける要望として「できる限り多くのデータを入れたい」かつ「応答速度は速い方がいい」、とはいえ「運用コストは下げたい」というものがよくあるのですが、これら3つを同時に満たすのは既存のLLMではなかなか困難でした。
例えばコールセンターのオペレーターをアシストするAIを作る場合、過去にも問い合わせ履歴のあるお客様の応対時には、過去の対話内容も踏まえて今回最適な回答を一緒に考えてくれる機能が欲しいので、対話履歴を全て入力したいです。一方で、リアルタイムの音声コミュニケーションにおいて、回答までの時間がかかってしまうことはお客様を待たせることになり望ましくありません。回答生成するサーバのスペックを高めれば入力長と速度の両立を実現できるかもしれませんが、コールセンターでは運用コストを抑えることも極めて重要であり、そう簡単にスペック増強はできません。
そこで私たちが着目したのが、マイクロソフトリサーチが研究開発したLLMのアーキテクチャ「Retentive Network（以下、RetNet）」です。RetNetは、現在のLLMで最も主流なTransformerと比べ、入力するテキストの量の増加に対するレイテンシや消費メモリの増大が緩やかであるという特徴を持ち、まさに私たちが求めるものでした。
――日本マイクロソフトとはどのような形で連携していますか。
森下：Layer1/2の活動で以前からマイクロソフト様とは関わりがあったため、RetNetを扱うに当たり技術的な相談などをさせて欲しいと連絡させていただいたところ、技術面だけでなく学習用インフラの提供も含めてご支援いただけることとなりました。RetNetはTransformerほど学習方法が確立されておらず、サードパーティライブラリのサポートなどもまだあまり充実していません。マイクロソフト様の支援がなければ弊社がRetNetのモデルを学習することは困難であったと思いますし、Azureの使いやすいインフラや、DeepSpeed（※）のおかげで効率的に開発を進めることができました。
※ DeepSpeed：Microsoft Corporationによって研究開発された深層学習フレームワーク
ユーザーの課題解決に資するLLMを活かした新機能を実装
――「PKSHA AIヘルプデスク」の新たな機能についても、詳しくお聞かせください。
成定：お客様により多くの価値を提供するために開発した機能として挙げられるのは、蓄積されたログからFAQを提案・作成する機能と、社内文書の検索機能の2つです。これらはいずれもAzure OpenAI Serviceを使い、Layer1のアルゴリズムエンジニアとLayer2のソフトウエアエンジニアが連携して実装した機能で、2023年7～8月にかけて両機能をリリースした後、現在も磨きこんでいる最中です。
――両機能の評価されたポイントはどういったところですか。
成定：チャットボットにおけるLLM活用という観点では、既存のチャットボットをまるごとLLMに置き換えるという方策が考えられがちです。しかし、LLMが出力する情報の正しさを担保するのは難しく、その不確実性が実用化の障壁になっていました。そこで、私たちはFAQを通じて行われた対話のログを、LLMによって再度FAQに変換し、それを自動で登録するという方法でLLMを活用することにしました。この使い方であれば、ユーザーがチャットボット利用によって得られていたメリットを損なうことなく、LLMの強みも活かせます。このアイデアから生まれたお客様へ提供する価値が、結果として今回の受賞においても高く評価いただけたと考えています。
――今回の機能は、ユーザーにどのような価値を提供していますか。
成定：いずれの機能も、お客様の導入ハードルを下げ、より効率的にソフトウエアを活用するための後押しをしています。これまで「PKSHA AIヘルプデスク」を利用するためには、事前に質問・回答を登録する必要がありました。この手間は、少なからず導入の障壁となります。しかし、この質問・回答を過去ログから自動で生成できるようになると、お客様が導入・運用においてかかる手間は大幅に削減されます。また、社内文書検索機能も、有人対応が必要な問い合わせ数を減らすことに役立ちます。チャットボットが社内文書を検索し、課題を解決し得る情報を提供できるようになることで、有人対応に切り替えることなく解決できる問い合わせが増えるからです。
社会実装の事例創出とLayer間の連携から新たな可能性が拡がっていく
――こうした取り組みの中で、PKSHAのメンバーはどのように活躍していましたか。
森下：「PKSHA RetNet」開発では、アルゴリズムエンジニアの呉さん、髙﨑さん、稲原さん、竹川さんの4人が特に活躍していました。RetNetの学習は世界でもまだあまり取り組まれていないため、前例のない様々な課題に遭遇するのですが、そのたびに全員の知恵を総動員して解決し、開発を推進してくれています。またソフトウエアエンジニアの加藤さんや吉沢さんも、Azureにおける分散学習のインフラ構築面で大きく貢献してくれました。
▼今回活躍したメンバーが登場する記事
成定：AIヘルプデスクの機能実装においては、連携を実現するための全体的な調整をしてくださった山本さん、社内文書検索機能を中心的に進めてくださった藤岡さん、徐さん、そしてお客様にとっての機能価値について徹底的に考えてくださった花塚さんの活躍が受賞の背景にあります。
▼今回活躍したメンバーが登場する記事
森下：今回の受賞の理由はPKSHA RetNetとAIヘルプデスクだけではないでしょうから、一翼を担ってくれたメンバーを全員挙げようとすると、まだあと何十人か名前を挙げなきゃいけない人が思い浮かびます（笑）。受賞対象が昨年のPKSHA WorkplaceからPKSHA Technologyに変わったことから、あらゆるLayerであらゆるメンバーが創出した成果全体を評価していただけたのかなと認識しています。
成定：特に、今回評価されたFAQの提案・作成機能と、社内文書検索機能は、Layer1のアルゴリズムエンジニアとLayer2のソフトウエアエンジニアがそれぞれの知見を組み合わせたからこそ実現できたものだと思います。こうしてソリューションとプロダクトの垣根を越え、双方の技術や知見を組み合わせて価値を提供することが、今後より増えていくと思います。
――今後の展望についてお聞かせください。
成定：まずマイクロソフト様との連携という観点からの展望をお話させていただくと、私たちはこれまでの社会実装の実績と、ローカライズに対応できる存在として厚く信頼をいただいています。同社のソフトウエアは世界中の人々が使うことを前提に作られていて、このローカライズに対応できる会社は限られてきます。PKSHAは最先端技術をクイックに取り入れられる強みを持ち、かつ日本特有の課題を解決できるポジションとして、今後も同社と良い関係性を築いていければと思います。
森下：PKSHAはLLMが登場する以前から、コミュニケーション領域におけるAIの活躍に期待して、事業として取り組んできた企業です。もちろん、これまでも自然言語処理の技術を用いたソリューションやプロダクトで社会課題を解決してきたという自負はありますが、LLMによってその可能性は一気に広がったと感じています。
LLMはこれからも信じられない速度で進化を続けていくと思いますが、LLM単体で何でも解決できるわけではありません。私たちが培ってきた社会実装ノウハウやPKSHAモジュールを最先端のLLMと組み合わせ、社会課題を真に解決するソフトウエアを今後も増やしていきたいです。「LLMってこんなふうに役立つんだ」という驚きを社会に届けて、そこからまた新しいアイデアが生まれて、その実用化が新たな驚きとなり…といった循環を通じて、社会をより未来に進めていきたいと考えています。
―INFORMATION―
PKSHA Technologyでは、ともにはたらく仲間を募集しています。
Wantedlyや採用サイトから応募が可能ですので、是非ご覧ください！
▼ ソフトウエアエンジニアの募集要項はこちら
▼アルゴリズムエンジニアの募集要項はこちら
▼ PKSHA 採用サイトはこちら
▼ Wantedlyはこちら