2023-01-01から1年間の記事一覧
要約 タイトル: Understanding In-Context Learning in Transformers and LLMs by Learning to Learn Discrete Functions 著者: Satwik Bhattamishra, Arkil Patel, Phil Blunsom, Varun Kanade 論文のURL: https://arxiv.org/abs/2310.03016 この論文の解説…
タイトル: Who's Harry Potter? Approximate Unlearning in LLMs 著者: Ronen Eldan, Mark Russinovich 論文のURL: https://arxiv.org/abs/2310.02238 この論文の解説です。 論文発表日: 3 Oct 2023 専門外の人でも分かるような説明 この研究は、大規模な言…
M1のMacは環境構築にクセがあります。 LightGBMをローカルで使えるようになるまでの手順を残しておきます。 最初に出てきたエラー ModuleNotFoundError: No module named 'sklearn' というエラーは、sklearn モジュールがインストールされていないことを示し…
タイトル: LLM-grounded Video Diffusion Models 著者: Long Lian, Baifeng Shi, Adam Yala, Trevor Darrell, Boyi Li 論文のURL: https://arxiv.org/abs/2309.17444 この論文の解説です。 論文発表日: 29 Sep 2023 専門外の人でも分かるような説明 この研究…
要約 タイトル: "Always Nice and Confident, Sometimes wrong": Developer's Experiences Engaging Generative AI Chatbots Versus Human-Powered Q&A Platforms 著者: Jiachen Li, Elizabeth Mynatt, Varun Mishra, Jonathan Bell 論文のURL: https://arxi…
要約 タイトル: GPT-Fathom: Benchmarking Large Language Models to Decipher the Evolutionary Path towards GPT-4 and Beyond 著者: Shen Zheng, Yuyu Zhang, Yijie Zhu, Chenguang Xi, Pengyang Gao, Xun Zhou, Kevin Chen-Chuan Chang 論文のURL: https…
タイトル Graph-Toolformer: To Empower LLMs with Graph Reasoning Ability via Prompt Augmented by ChatGPT Authors Jiawei Zhang 論文 https://arxiv.org/pdf/2309.16595.pdf この論文を解説します 専門外の人でも分かるように説明 この論文は、大規模な…
タイトル: How to Catch an AI Liar: Lie Detection in Black-Box LLMs by Asking Unrelated Questions 著者: Lorenzo Pacchiardi, Alex J. Chan, Sören Mindermann, Ilan Moscovitz, Alexa Y. Pan, Yarin Gal, Owain Evans, Jan Brauner https://arxiv.org/…
タイトル: Can LLMs Augment Low-Resource Reading Comprehension Datasets? Opportunities and Challenges 著者: Vinay Samuel, Houda Aynaou, Arijit Ghosh Chowdhury, Karthik Venkat Ramanan, Aman Chadha https://arxiv.org/abs/2309.12426 この論文の…
タイトル: LLM-Grounder: Open-Vocabulary 3D Visual Grounding with Large Language Model as an Agent https://arxiv.org/abs/2309.12311 この論文の説明です。 著者: Jianing Yang, Xuweiyi Chen, Shengyi Qian, Nikhil Madaan, Madhavan Iyengar, David …
タイトル: Generative AI Text Classification using Ensemble LLM Approaches https://arxiv.org/abs/2309.07755 この論文の説明です。 著者: Harika Abburi, Michael Suesserman, Nirmala Pudota, Balaji Veeramani, Edward Bowen, Sanmitra Bhattacharya …
タイトル: Generative AI vs. AGI: The Cognitive Strengths and Weaknesses of Modern LLMs https://arxiv.org/abs/2309.10371 この論文の説明です。 著者: Ben Goertzel 専門外の人でも分かるように概要説明 この論文は、大規模言語モデル（LLM）と呼ばれ…
タイトル: Transformers versus LSTMs for electronic trading https://arxiv.org/pdf/2309.11400.pdf この論文の内容を簡単に説明します。 著者: Paul Bilokon, Yitao Qiu 概要: この研究では、金融の時系列予測において、LSTM（Long Short-Term Memory）と…
タイトル: 「Fictional Worlds, Real Connections: Developing Community Storytelling Social Chatbots through LLMs」 https://arxiv.org/abs/2309.11478 この論文の要約です。 著者: Yuqian Sun, Hanyi Wang, Pok Man Chan, Morteza Tabibi, Yan Zhang, H…
タイトル: 「Generative AI vs. AGI: 現代のLLMの認知的な強みと弱み」 https://arxiv.org/abs/2309.10371 著者: Ben Goertzel 概要: この論文では、2023年半ばのLLM（大規模言語モデル）に関する詳細な考察が行われています。具体的には、ChatGPT, GPT-4, B…
1. im2colの基本 「im2col」は、畳み込み演算を効率的に行うための手法です。具体的には、4次元配列（ミニバッチサイズ、チャンネル数、縦幅、横幅）を行列に変換し、畳み込み演算を行列積の計算として実行します。この変換により、畳み込み演算の処理速度が…
im2colとは？ 「im2col」とは、画像の畳み込み演算を効率的に行うための技術の一つです。名前の「im2col」は「image to column」の略で、文字通り画像データを列データに変換することを意味しています。 例えば… 画像が本棚で、フィルターが特定の本を探すた…
LLMのファインチューニングによって課題に合わせた出力をしたいと思いますよね。 できることできないことをまとめました。 https://note.com/npaka/n/nec63c01f7ee8 を参考にさせて頂きました。 LLMのファインチューニングで何ができて、何ができないのか LL…
LightGBMとは LightGBMは、勾配ブースティングを基にしたアルゴリズムで、特徴量の重要性の計算や欠損値の取り扱いを自動的に行い、回帰および分類の問題に適用できるモデルです。LightGBMは、XGBoostを超えると言われる強力な機械学習アルゴリズムの一つで…
全結合型ニューラルネットワーク（Fully Connected Neural Network）とは 簡単に言ってしまうと、普通のニューラルネットワークです。ディープラーニングの勉強をしていると突然出てきますが、１周回って普通のニューラルネットワークです。 ディープラーニ…
プライベートではGoogle Colabばかりで、たまたまターミナルを開いて、ちょっとpythonを使おうとしたらまさかの2系だったので3系に変更します。 状況 @MacBook-Pro ~ % python WARNING: Python 2.7 is not recommended. This version is included in macOS f…
メモリベースとモデルベースの手法は、推薦システムの中で広く使われる2つのアプローチです。以下にその主な違いをまとめました。 メモリベース: データ使用: 既存のユーザー-アイテムの評価データを直接使用してレコメンドします。 計算方法: ユーザー間や…
総務省が発表しているDX時代の企業プライバシーガバナンスガイドブックについてまとめました。 元資料はこちらです。 https://www.soumu.go.jp/main_content/000877678.pdf プライバシーガバナンスのフレームワーク サマリ 1. 目的と背景 Society5.0の実現に…
GPT-3.5 Turboのファインチューニング：カスタマイズの新たな可能性 OpenAIのGPT-3.5 Turboが、特定のユースケースに最適化するためのファインチューニングが可能となりました。 ユーザーエクスペリエンスを次のレベルへ GPT-3.5 Turboのリリース以降、多く…
総務省と経済産業省が「DX時代における企業のプライバシーガバナンスガイドブックver1.3」を策定し、公表したという情報に関する説明をまとめました。 https://www.soumu.go.jp/menu_kyotsuu/important/kinkyu02_000513.html 「DX時代における企業のプライバ…
UNESCOが2021年11月に採択した「人工知能の倫理に関する勧告」です。 ディープラーニング協会のG検定の対策としても読んでおくと良いかと思います。 https://en.unesco.org/artificial-intelligence/ethics UNESCOの人工知能の倫理に関する勧告： UNESCOは、…
説明可能なAI（XAI）とは 説明可能なAI（XAI）とは、AIの意思決定や予測の過程やアルゴリズムを人間が理解できる形で説明できるAI、またはそのための技術のことを指します。XAIはAIの進化と導入において重要な側面であり、AIの信頼性を高め、公平性や透明性…
Adversarial attacksとは Adversarial attacksとは、AIなどのモデルに対して微細な変更を加えた入力データを提供し、モデルの誤判定を引き起こす手法のことを指します。これによって、人間にはわかりにくい変更でも、AIの性能を低下させたり、誤動作を引き起…
ディープフェイクとは ディープフェイクは、人工知能を用いて、人物の動画や音声を合成する技術を指します。この技術を使用することで、本物そっくりの人工的な映像や音声が生成され、視覚や聴覚的に人間には本物と区別が難しいものが作成されることがありま…
我が国のAIガバナンスの在り方 AIガバナンスをめぐる国内外の動向 AI原則からガバナンスの具体化へという流れ リスクベース・アプローチ、リスクの評価と分類 AIガバナンスの構造（AI原則、横断的で中間的なルール、個別分野等にフォーカスしたルール、モニ…
