【数えるだけ】AIが単語を理解するトリックが巧妙すぎる【大規模言語モデル2】#130
プロモーション:Notion AI Notion は無料で使えて、月額10ドルでNotion AIをご利用いただけます。大規模言語モデルの肝「単語ベクトル」とは?…
この回の流れ
- 0:00コアラの対義語は?
- 0:46大規模言語モデルの肝「単語ベクトル」
- 6:36単語を数字の組で表す
- 14:32実際には「次元圧縮」している
- 18:00対義語は真逆のベクトル?
- 21:57ぬくもりを捨てることで実現した技術
- 26:56素晴らしきNotionAI
- 30:18文脈化単語埋め込みは味付け化係
- 38:34とにかく何かいい感じになる
- 43:33ニューラルネットワークとは何なのか
番組から(概要欄)
プロモーション:Notion AI
Notion は無料で使えて、月額10ドルでNotion AIをご利用いただけます。
大規模言語モデルの肝「単語ベクトル」とは?「単語を数字の組で表す」「ぬくもりを捨てることで実現した技術」「Transformerはとにかく何かいい感じになる」など、自然言語を扱うコンピュータ科学の技術について話しました。
【ことラボ】
◯Twitter → https://x.com/KotoLaboRyo
◯YouTube → https://www.youtube.com/@kotolabo
◯「単語ベクトル」とは何か? → https://youtu.be/l8YCKz15Hn8
【目次】
【参考文献】
◯大規模言語モデル
◯キテレツおもしろ自然言語処理
◯風俗の虫―捜査官が覗いた日本の風俗70年
◯自然言語処理の必須知識!Word2Vec とは?
※単語ベクトルの出典
◯【入門】深層学習の革命児!Transformer を今こそ理解しよう
※文脈化単語埋め込みの出典
このページの情報は「ゆるコンピュータ科学ラジオ」が公開している RSS から取得したものです。サマリは概要欄の文面をもとに機械的に整えたもので、番組の公式要約ではありません。
この番組の近い回
- 2024-07-21アフィリエイターが死んだ日。彼らが一斉に失職した怖い話をしよう#134
- 2024-07-14AIとの恋愛ってあり?専門家の見解は?#133
- 2024-07-07【徹底討論】AIは単語の意味を理解しているのか?#132
- 2024-06-30現代のAIは24時間体制の「子守り」が必要? 開発者の泥臭い努力を聞く回【大規…
- 2024-06-16大規模言語モデルはただの遷移図。実際に作って理解しよう!【大規模言語モデル1】…
- 2024-06-09おもしろ半分で技術ブログを読もう!!【Qiita基調講演】#128
- 2024-06-02【大いなる罠】プログラミング言語の意味論を勉強したら7時間がムダになった#127
- 2024-05-26マグカップのフタが買えなくて、技術に絶望した話。シンギュラリティは遠い。#126