アメリカ最新AI情報満載!セミナーや講演情報など交えて毎週水曜配信 無料ニュースレター 下記へメールアドレスを入力し無料で登録
CLOSE
パロアルトインサイト/ PALO ALTO INSIGHT, LLC.
ブログBLOG
パロアルトインサイト/PALO ALTO INSIGHT, LLC. > PAIoneer PRO > AI > GPT-4Visionの発表:マルチモーダルAIへの進化と責任ある利用に向けた取り組み
GPT-4Visionの発表:マルチモーダルAIへの進化と責任ある利用に向けた取り組み
2023/10/04 ブログ, PAIoneer PRO, AI, The Insight 
by suzuki 

OpenAIがGPT-4Visionを発表

マルチモーダルAIの進化と責任ある利用に向けた取り組み

今週のテーマ:AI開発

OpenAIが開発したマルチモーダルAIシステム「GPT-4V(ision)」が発表されました。今回はその安全性を分析した「GPT-4Vシステムカード」からの知見を紹介いたします。GPT-4Vは、人間のようなテキストを生成できる言語モデルGPT-4を応用し、画像で入力した情報を分析する強力なAIツールです。
しかし、どのAIシステムでも懸念されるように、潜在的なリスクを回避し、責任ある使用を保証するためには、GPT-4Vの安全特性を理解し、どのように学習させたかを理解することが重要です。そこで、GPT-4とその前身モデルの背景を説明し、システム・カードとは何か、なぜそれがAIシステムを理解する上で重要なのかを説明していきたいと思います。

💡この記事から得られる3つのナレッジ
・GPT-4Vの概要
・システムカードとはなにか
・GPT-4Vの学習方法や可能性

論文データ:
今回のディスカッション対象の論文をご紹介します。
タイトル:GPT-4V(ision) System Card –  OpenAI
URL:https://cdn.openai.com/papers/GPTV_System_Card.pdf

目次

GPT-4V開発の背景

システムカードとは何か

人間のフィードバックから強化学習することによる微調整

GPT-4Vのデータセットと評価について

終わりに


開発の背景

GPT-4Vは、これまでにOpenAIによって開発された、GPT-3や、GPT-2、GPT-1などを含む一連の言語モデルの最新版です。これらのモデルは、大量のテキストデータを処理し、人間のようなテキストを生成することが可能です。

GPT-3のような言語のみの対応したモデルでは、画像や動画のような他の種類のデータを理解・分析する能力に限界がありました。そのためGPT-4Vのような、より強力なAIシステムを作るために、OpenAIでは言語と他のモダリティを組み合わせたマルチモーダルな学習モデルの開発が進められていました。

システムカードとは

OpenAIが開発したGPT-4Vの安全性と責任ある使用を詳細に説明するための文書として、GPT-4Vシステムカードが作成されました。このシステムカードには、GPT-4Vのトレーニングや評価に関する情報、潜在的なリスクへの緩和策が詳細に記載されています。

主な目的は、GPT-4Vの透明性と説明責任を提供し、ユーザーや関係者がシステムの動作や安全性を明確に理解できるようにすることです。さらに、システムカードは責任あるAIの開発と導入を促進するツールとして、AIを上手く使うための「正しいやり方」や「基本ルール」を作る活動の一つとして考えられています。

人間のフィードバックから強化学習することによる微調整

GPT-4Vの学習には、教師あり学習とともに「Reinforcement Learning from Human Feedback(RLHF)」という手法が採用されました。RLHFは、AIシステムの出力に対して人間のトレーナーからのフィードバックを基に、システムのパフォーマンスを向上させる学習方法です。

GPT-4Vにおいては、この手法を用いてシステムの出力を微調整し、人間のトレーナーの好みに合わせることに成功しています。結果として、画像入力に対するテキストの生成がより正確で適切となり、マルチモーダルなAIシステムとしての性能が大きく向上しています。

一方で、学習におけるバイアスの導入の可能性や、最良のパフォーマンスを得るための大量のフィードバックが必要となることなど、RLHFを採用する際には注意点がありますが、今回はそれらを考慮して採用されたということです。

GPT-4Vのデータセットと評価について

https://www.paloaltoinsight.com/membership-checkout/?level=4
https://www.paloaltoinsight.com/membership-checkout/?level=4

 PAIoneerPRO会員に登録 ▷ 
PAIoneer PRO
詳細はこちら

 会員の方はログイン▷ 

パロアルトインサイトについて

AIの活用提案から、ビジネスモデルの構築、AI開発と導入まで一貫した支援を日本企業へ提供する、石角友愛氏(CEO)が2017年に創業したシリコンバレー発のAI企業。

社名 :パロアルトインサイトLLC
設立 :2017年
所在 :米国カリフォルニア州 (シリコンバレー)
メンバー数:17名(2021年9月現在)

パロアルトインサイトHP:www.paloaltoinsight.com
お問い合わせ、ご質問などはこちらまで:info@paloaltoinsight.com

石角友愛
<CEO 石角友愛(いしずみともえ)>

2010年にハーバードビジネススクールでMBAを取得したのち、シリコンバレーのグーグル本社で多数のAI関連プロジェクトをシニアストラテジストとしてリード。その後HRテック・流通系AIベンチャーを経てパロアルトインサイトをシリコンバレーで起業。東急ホテルズ&リゾーツのDXアドバイザーとして中長期DX戦略への助言を行うなど、多くの日本企業に対して最新のDX戦略提案からAI開発まで一貫したAI・DX支援を提供する。2024年より一般社団法人人工知能学会理事に就任。

AI人材育成のためのコンテンツ開発なども手掛け、順天堂大学大学院医学研究科データサイエンス学科客員教授(AI企業戦略)及び東京大学工学部アドバイザリー・ボードをはじめとして、京都府アート&テクノロジー・ヴィレッジ事業クリエイターを務めるなど幅広く活動している。

毎日新聞、日経xTREND、ITmediaなど大手メディアでの連載を持ち、 DXの重要性を伝える毎週配信ポッドキャスト「Level 5」のMCや、NHKラジオ第1「マイあさ!」内「マイ!Biz」コーナーにレギュラー出演中。「報道ステーション」「NHKクローズアップ現代+」などTV出演も多数。

著書に『AI時代を生き抜くということ ChatGPTとリスキリング』(日経BP)『いまこそ知りたいDX戦略』『いまこそ知りたいAIビジネス』(ディスカヴァー・トゥエンティワン)、『経験ゼロから始めるAI時代の新キャリアデザイン』(KADOKAWA)、『才能の見つけ方 天才の育て方』(文藝春秋)など多数。

実践型教育AIプログラム「AIと私」:https://www.aitowatashi.com/
お問い合わせ、ご質問などはこちらまで:info@paloaltoinsight.com

 

※石角友愛の著書一覧

NEWSLETTERパロアルトインサイトの
無料ニュースレター

毎週水曜日、アメリカの最新AI情報が満載の
ニュースレターを無料でお届け!
その他講演情報やAI導入事例紹介、
ニュースレター登録者対象の
無料オンラインセミナーのご案内などを送ります。

BACK TO BLOG
« »
PAGE TOP