見出し画像

Microsoft AI Tour - Tokyo参加報告

こんにちは。PKSHA Technology の AI Solution 事業本部にてアルゴリズムエンジニアをしている小川です。2024/2/20(火)に東京ビッグサイトで開催された Microsoft AI Tour に参加してきたのでレポートいたします。

小川浩輝 | AI Solution事業本部 アルゴリズムエンジニア
慶應義塾大学経済学部にて、都市経済学を専攻。前職では機械学習エンジニアとして人材領域におけるデータ分析業務、自然言語処理を活用したレコメンドロジックの実装などを担当。その後、PKSHA Technology に参画。現在は金融業界・小売業界など多様な領域においてソリューション提案・実装を行う。Kaggle では PKSHA 内で 4 人目の Kaggle Competitions Grandmaster。

Microsoft AI Tour とは

Microsoft AI Tour とは Microsoft 社が主催する、ビジネスリーダーや開発者を対象とした 1 日限りのイベントです。イベントの中では、最新の AI 活用事例や Microsoft 製の AI 関連サービスを学ぶことができるブレイクアウトセッション、最新の Microsoft 製品のデモ体験や各企業のシアター発表を聞くことができる Connection Hub、Microsoft 製の AI 関連サービスを実際に手を動かしながら学んでいく Workshop など多様な催しが企画されています。
世界各国で開催され、日本での開催は今年は東京のみとなっています。ビジネスリーダーや開発者を含め約 3,000 名の来場者を迎え、とても活気のあるイベントとなっていました。

AI Solution 事業本部では主にエンタープライズ向けに AI ソリューションを提供しています。近年は生成 AI を活用した AI ソリューションの提供も多く行なっており、その中で Azure OpenAI Service を活用する機会も拡大しています。このような状況下で、生成AIの各社活用事例や Azure のより効果的な活用方法などを学ぶため、イベントに参加しました。

イベント当日

イベントは 8 時 30 分からの開場になりますが、朝はとても混雑しており自分は 20~30 分程度並びました。もし参加される場合は少し早めに来場されることをおすすめします。なお、会場では朝食や昼食、間食が提供されるため、一時離脱をせずに会場を回ることができとても快適でした。

朝食

各種セッションの模様

今回のイベントでは、近年進化の著しい生成AIの話題が中心でした。特に Microsoft 主催のイベントということもあり、Copilot(GitHub Copilot や Copilot for Microsoft 365 など)や Azure OpenAI をビジネスでどのように活用するかというテーマが多かった印象です。イベントのセッションは大きく「ブレイクアウトセッション」、「キーノート」、「Featured Partner」、「Connection Hub」、「Workshop」の 5 つのタイプに分かれていました。

各タイプのセッションに参加しましたので、それぞれの感想を記載したいと思います。なお、全セッションのスケジュールは以下にあります。今回のイベントでどのような発表が行われたのかが気になる方はご参照ください。

ブレイクアウトセッション

こちらは各業界の AI に携わる方々が、生成 AI 活用事例や各種生成 AI ツールの使い方を発表するセッションです。ビジネスリーダー向け、開発者向け双方のセッションが開催され、私は次の二つのセッションに参加しました。

「急進する金融業界における生成 AI への取り組みと目指す今後の姿」(ビジネスリーダー向け)

こちらのセッションでは、金融業界におけるAI活用事例紹介などがありました。各社生成 AI の導入が進んでいるようで、社内でプロンプトエンジニアリングに関するノウハウ共有なども進んでいるとのことでした。
また質疑応答が活発に行われ、生成 AI のリスクコントロールをどうしているか、生成 AI の定量的効果をどう測るかなど生成 AI 導入に関する具体的な質問が持ち上がり、さまざまな会社で生成 AI の活用が進められている現状を再確認できました。

「現実世界における責任ある AI システムの評価と設計」(開発者向け)

セーフティシステムのスライド

こちらのセッションでは、生成 AI が抱えるリスクの説明と Azure AI Studio における対策方法の紹介がありました。
生成 AI のリスクとしてはハルシネーション(AI が事実に基づかない情報を生成する現象)やマニュピレーション(人のように振る舞い欺く現象)、有害なコンテンツの出力などが挙げられましたが、ここでは特に「有害なコンテンツの出力」に焦点が当てられました。

「有害なコンテンツの出力」に対する Azure AI Studio 上の防衛機能として、 Content Safety があり、生成 AI による不適切なコンテンツの生成自体を防いだり、悪意あるプロンプト(ここでは「ジェイルブレイク」と表現)の検出を行ったりする機能のようです。

メタプロンプト(GPT に対してキャラ設定を指示するプロンプト)での対策も有効とのことです。特に、有害な指示 A に対して、「A が指示された時、〇〇するな」のような指示よりも「A が指示された時、代わりに△△する」のようなメタプロンプトの方が危険な振る舞いを抑制する効果が高いというお話は面白かったです。

キーノート

キーノートでは、米日の Microsoft 社の様々なエグゼクティブの方々から貴重なお話を聞くことができました。特に Copilot for Microsoft 365 に関する話題が多く、当日は代表がその場でパワーポイントの要約を Copilot に依頼するパフォーマンスもあり、楽しむことができました。以下の記事にキーノートの詳細がまとめられていましたので、ご興味があればご一読ください。

Featured Partner

こちらは、Microsoft およびパートナー企業によるセッションで、雰囲気としてはビジネスリーダー向けのブレイクアウトセッションに近かったです。
私は「Beyond Technology:生成 AI 登場から 1 年。業界インパクトとビジネス活用の最前線を探る」というセッションに参加しました。

こちらのセッションでは、生成AIの業界インパクトおよび Copilot for Microsoft 365 の先行ユーザーであるアクセンチュア・アバナードによる活用知見紹介などが行われました。生成 AI の業界インパクトに関しては、特に金融業界やソフトウェア業界に対する影響が強いとの試算が示され、作業的業務が代替された結果、より高度な業務に割く時間が増えるだろうとのことです。

Copilot for Microsoft 365 に関しては、Teams 会議におけるホワイトボードを用いたブレスト促進をはじめ業務効率化にとても有効とのことでした。一方で英語に比べると日本語対応にはまだ課題を感じるとのことです。ソフトウェア業界の影響について、確かに GitHub Copilot や ChatGPT の登場により一つ一つの実装にかかる時間は以前よりも短くなっており、今後どのような業務に時間を割いていくかは改めて考えていきたいと思いました。 Copilot for Microsoft 365 を活用した業務時間短縮も探索していきたいです。

Connection Hub

こちらでは、各種 Microsoft 製品の展示(特に Microsoft Copilot )や 15~30 分程度のシアター発表が行われました。特に展示では実機を使って Microsoft Copilot を体験することができたので、盛況でした。

会場の様子

私は、リクルート社の「GPT-3.5 による大規模なテキストデータ変換を 200 並列のバッチ処理で実施した話」というシアターセッションに参加しました。この発表はかなり開発者寄りの内容で、リクルート社が保有する個別フォーマットの求人票を共通フォーマットに落とし込む際に GPT を使った話が紹介されました。

GPT 登場前だと、多くのルールベースを書くやり方になり工数的に実現不可能だったが、GPT により対応可能になったという話は興味深かったです。今後はルールベースの確実な安定性と GPT の柔軟な対応力を上手く組み合わせていきたいと思いました。また、大量の求人票を捌くために、GPT-3.5 を 200 並列走らせた話も面白かったです。その際、AzureのPTU(プロビジョニングされたスループット)という仕組みを利用することでコスト削減したようです。
当時は GPT-3.5 の値下げ前だったこともあり、現在も PTU が有効かはわからないとのことですが、コスト削減の選択肢の一つとして PTU を念頭に入れておきたいと思いました。

Workshop

こちらは Microsoft 製品を使って、実際に開発を行うセッションです。Microsoft Copilot Studio を使って独自の Copilot を作成するセッションや、Microsoft Fabric でデータ分析を行うセッションがありました。

私は「製品レベルの RAG ワークフローを開発しよう」という RAG 関連のセッションに参加しました。こちらのワークショップでは、Azure AI StudioとPrompt flow という機能を用いてRAGアプリケーションの作成を行いました。登壇者が外国人だったため英語での説明でしたが、専用の機器にイヤホンを接続することでリアルタイムの通訳を聞くこともできます。

専用の機器

全体像の紹介が最初に行われたのち、英語のマニュアルが配布され、各々で取り組む形でした。GitHub のレポジトリを Fork して作業を行なっていく形のため、エンジニアの方向けのワークショップといった印象です。
ワークショップの中では、Contoso という架空の会社の問い合わせ対応用 ChatBot を作成しました。処理の流れとしては顧客からの質問があった時に、顧客情報を Azure Cosmos DB から取得するとともに、関連情報を Azure AI Search 経由で RAG により取得し、GPT を用いて最終的な回答を生成する、というものです。
一連の処理の流れを Prompt FlowのVS Code 拡張機能版を用いることで VS Code 上で可視化・設定することができます。Prompt Flow については多機能なためまだ完全に理解しきれていない部分はありますが、使いこなすことができれば、LLM アプリケーションをより効率的に作成できそうです。

Prompt Flow(VS Code拡張機能版)

最後に

各社の生成 AI 活用状況や生成 AI に関する Azure の機能、そして Microsoft Copilot の利便性を知ることができ、大変有意義な 1 日でした。生成 AI の進化が著しい昨今ですが、引き続きキャッチアップしていきながら、よりよいソリューションを社会実装できるよう努めていきたいと思います。

最後になりましたが、PKSHA Technology ではともに AI の社会実装を加速させる仲間を募集しています。採用サイトや Wantedly から応募が可能ですので、是非ご覧ください!カジュアル面談も大歓迎です!

▼【AI Solution】アルゴリズムエンジニア (機械学習エンジニア/データサイエンティスト)

▼【AI SaaS】アルゴリズムエンジニア (機械学習エンジニア/データサイエンティスト)

▼その他採用職種一覧

▼Wantedlyはこちら


みんなにも読んでほしいですか?

オススメした記事はフォロワーのタイムラインに表示されます!