生成AIの実利用に必要なこと-Practical Requirements for the Deployment of Generative AI
0 likes302 views
データ自動投入 AIのカスタマイゼーション（モデル選択、評価） 包括的なセキュリティ機能 既存システムとの統合（CI/CD） クラウドシフトは完了していますか？
![UXデザインのはじめの一歩を体験しよう！ ユーザーインタビューの基本 [第2版] | UXデザイン実践セミナー 第2回](https://cdn.slidesharecdn.com/ss_thumbnails/20221209-creekandriver-ux-workshop-2-221207181804-b44d3cb7-thumbnail.jpg?width=560&fit=bounds)
Ad
More Related Content
What's hot (20)
Similar to 生成AIの実利用に必要なこと-Practical Requirements for the Deployment of Generative AI (20)
![[G-Tech2015]攻めのIT活用に欠かせない「IT企画人材」育成のポイント[講演資料]](https://cdn.slidesharecdn.com/ss_thumbnails/g-tech2015itit-151106074936-lva1-app6891-thumbnail.jpg?width=560&fit=bounds)
Ad
More from Osaka University (20)
Ad
生成AIの実利用に必要なこと-Practical Requirements for the Deployment of Generative AI
- 1. 栄藤 稔 ⼤阪⼤学 先導的学際研究機構 教授 科学技術振興機構（JST) CREST⼈⼯知能領域総括 順天堂⼤学医学研究科客員教授 6/21/2024 @mickbean https://www.linkedin.com/in/micketoh/ ⽣成AIの実利⽤に必要なこと 1
- 2. • 業務⽤VCR開発（パナソニック） • 推論システム （ATR) • 画像符号化 MP-4の⽣みの親（パナソニック→ドコモ） • モバイルサービスと⾃然⾔語処理（ドコモ） • 研究開発企画、そして投資部⾨（ドコモ） • イノベーションマネージメント（ドコモ→⼤阪⼤学） • 起業＆会社経営 （みらい翻訳，コトバデザイン ） • 技術起点での事業⽀援コンサルティング （LINE, Netskopeなど） https://www.linkedin.com/in/micketoh/ 2
- 3. Performance 音声認識 2012 2014 2016 DNN 単一画像認 識 多層 CNN 一文機械翻 訳 LSTM- Attention GAN 大規模言語モデル （LLM) Transformer Pre-Training 2018 2020 2022 Reinforcement Learning from Human Feedback (RLHF) Diffusion Models 3
- 5. AI時代の第⼆幕が開いた。 予測・識別から⽣成・対話へ → 知識労働の⾃動化 → ⼈間拡張 → ⼈・機械の協働 5
- 6. 静かなる有事 https://hint-hiroshima.com/keiei/jirei/josei/000244.html 必然 • 従業員の⽣産性 を上げる。 • ⾃社サービスを 効率化する。 • イノベーション の梃⼦とする。 6
- 7. "The Short-Term Effects of Generative AI on Employment: Evidence from an Online Labor Market" (Hu et al., 2023) ChatGPT登場後5ヶ⽉で ホワイトカラーフリーランスの 仕事がどうなったか︖ 仕事数 ３％ダウン 収⼊ 10％ダウン ChatGPT ChatGPT 7
- 8. ここ10年間の変化 lサイバーセキュリティの強化 データプライバシーとガバナンス︓GDPR、ISO2700Xシリーズ lリモートワークの普及 lクラウドファーストからEnterprise SaaSへ lAIによる⾃動化の進展, Dark Dataの利活⽤ 8
- 10. AI利⽤の条件 •データ⾃動投⼊ •AIのカスタマイゼーション（モデル選択、評価） •包括的なセキュリティ機能 •既存システムとの統合（CI/CD） •クラウドシフトは完了していますか︖ 11 10
- 11. 企業の90％の データが未利⽤ • 機密データ（個⼈情報を含む） 契約書。 請求書。 顧客の声。 メール 名刺、 IoTデータ • 機密データ（個⼈情報を含まない） 議事録。 社内規則。 決算発表資料 • ⾮機密データ（個⼈情報を含む場合がある） ネットの声、Webデータ • ⾮機密データ（個⼈情報を含まない） 社内レポート、広報、社外発表、条規 11
- 12. time/cost time/cost システムを常に手直しする組織とならざるを得ない。 Depreciation Development Point of Sales Point of Use quality quality DevOps AIは買うものではない、育てるものである。 12
- 16. Retrieval Augmented Generation (RAG) •ユーザが質問⽂を⼊⼒する •質問⽂をそのままクエリとしてベクトルに変換する •データベースを検索し、内容が近そうな⽂章を取り出す •取り出した⽂章と質問を合わせて、LLMに⼊⼒し回答を得る Source:Chelsy Ma AI/ML | Education | Solutions Architect @ AWS ⾃動化された社内外の知識の取り込み 17
- 17. Amazon Q Businessとは︖ （GA in 2024/4/30) • 完全に管理された⽣成 AI 搭載アシスタントであり、質問に答えたり、概要を提供したり、コンテンツを ⽣成したり、エンタープライズデータに基づいてタスクを完了したりするように設定可能。 • まずは、これで試してみる︕ それからカスタマイズする︕ https://aws.amazon.com/jp/blogs/aws/am azon-q-business-now-generally- available-helps-boost-workforce- productivity-with-generative-ai/ 18
- 18. AWS Cloud アプリ利⽤者 アプリ or システム Amazon Bedrock Amazon Bedrock で選べる基盤モデル アプリを 操作 アプリが AmazonBedrockの APIを呼び出し モデルごとに 求められる⽅法 で呼び出し l Amazon Bedrock は 様々な LLM-FM を選んで使うことができるサービス l AWS のシステムとして利⽤できる （閉域 AWS PrivateLink、監査ログ Amazon CloudWatch、AWS CloudTrail などが使える） Chat playground Knowledge Base Agents Guardrail Model evaluation Fine-tuning Continued Pre-training Anthropic Claude 3 Opus Claude 3 Sonnet Claude 3 Haiku AI21 Labs Jurassic Jurassic-2 Ultra Jurassic-2 Mid Amazon Titan Amazon Titan Text Premier / Express / Lite Amazon Titan Text Embeddings Amazon Titan Multimodal Embeddings Amazon Titan Image Generator Mistral AI Mistral Large Mistral Small Mistral 8X7B Instruct Mistral 7B Instruct Cohere Command R+ Command R Embed Meta Llama Meta Llama 3 8B Meta Llama 3 70B Stability AI Stable Diffusion XL 1.0 Amazon Bedrock で選べる基盤モデル 詳細 参照：https://aws.amazon.com/bedrock/ Amazon Bedrock 19
- 19. Amazon Bedrock の強み • 様々な会社のLLM/FMを最適に使うことができる • システム構築を既存システムと⼀貫して⾏うことができる （セキュリティ対策、暗号化、監査対応など） 22
- 21. クラウドシフトの 効果 1. クラウドネイティブアーキテクチャの採⽤ 基幹サービスに随時、新機能が追加できる。 2. マネージドサービスの利⽤ ITスタッフの負担削減の肝である。 3. クラウドの充実したトレーニングとサポート 最新の技術やベストプラクティスがそこにある。 4.標準化されたセキュリティ運⽤ 24
- 22. ⽣成AIの バックオフィス 意⾒あるある 経営に必要なのは、 時代の洞察⼒、 決断⼒。 • 定型業務は置き換わるが バックオフィス全体は置き換わらない。 • あくまでも⼈間の補助に過ぎない。 • 精度がまだ低くてまだ使えない。 （ハルシネーション問題） • 遠い将来は使えるが今ではない。 ⼈のチェックが必要だから、 ⾃動化には遠い。 • セキュリティが⼼配だ。 もう状況 違います 25