ITエンジニア ノイのブログ

ITエンジニアのノイです。 YouTubeで ITエンジニアのお勉強という学習用の動画を公開しています。チャンネル登録お願いします!https://m.youtube.com/channel/UCBKfJIMVWXd3ReG_FDh31Aw/playlists

2023-01-01から1年間の記事一覧

DALL-E 3の活用方法 – ChatGPTから画像生成

今回は画像生成のAI技術であるDALL-E 3について、その使用方法や規約に焦点を当ててご紹介します。 DALL-E 3の利用方法 DALL-E 3は皆さんが普段使っているChatGPTにプロンプトを入力して使うことができます。 ChatGPT PlusではプラグインでDALL-Eを追加する…

BatchNormalization(バッチ正規化)のパラメータgammaとbeta

BatchNormalization BatchNormalization(バッチ正規化)は、ニューラルネットワークの学習を安定化し、収束を速めるための手法の一つです。これは、各ミニバッチ内での入力データの平均をゼロにし、標準偏差を1に調整することによって、学習の安定性を向上…

論文解説 LLMに基づく生成型応答の推論方式

解説する論文 タイトル: Splitwise: Efficient Generative LLM Inference Using Phase Splitting 著者: Pratyush Patel, Esha Choukse, Chaojie Zhang, Íñigo Goiri, Aashaka Shah, Saeed Maleki, Ricardo Bianchini 論文のURL: https://arxiv.org/pdf/2311.…

im2col

im2colとは im2colは、画像認識において利用される関数で、主に高速な行列演算を活かすために使用されます。この関数は、効率的なnumpyの操作を可能にします。ループを使用することができますが、これはnumpyの優れた特性を活かす点で劣る方法です。(numpy…

Generative AI Test 2023#2 概要と対策

Generative AI Testとは 「Generative AI Test」とは、日本ディープラーニング協会(JDLA)が提供する、生成AIに関する知識と活用スキルを評価するためのミニテストです。このテストは、OpenAIやMidjourneyなどの生成AI技術を安全かつ効果的にビジネスで活用…

ソフトマックス関数

ソフトマックス関数とは ソフトマックス関数は、複数の数値からなるベクトルを受け取り、それを正規化して確率分布として表現するための関数です。主に機械学習や深層学習の分野で使用されます。この関数は、多クラス分類の出力層や、ニューラルネットワーク…

Generative AI Test 試験内容と出題予想

Generative AI Testとは 「Generative AI Test」とは、生成AIに特化した知識や活用リテラシーを確認するためのミニテストで、一般社団法人日本ディープラーニング協会(JDLA)によって実施されます。このテストは、OpenAIやMidjourneyなどの近年の企業活動で…

論文解説 ChatGPTを用いた映像に合わせた音声生成

解説する論文 タイトル:What Do I Hear? Generating Sounds for Visuals with ChatGPT 著者: David Chuan-En Lin, Nikolas Martelaro 論文のURL: https://arxiv.org/pdf/2311.05609.pdf 論文発表日: 2023年11月9日 専門外の人でも分かる解説 この論文は、Cha…

論文解説 プロンプト最適化

解説する論文 タイトル: Black-Box Prompt Optimization: Aligning Large Language Models without Model Training 著者: Jiale Cheng, Xiao Liu, Kehan Zheng, Pei Ke, Hongning Wang, Yuxiao Dong, Jie Tang, Minlie Huang 論文のURL: https://arxiv.org/p…

万能近似定理を調べていたらボレル可測関数が分かりにくいのでまとめた

万能近似定理 万能近似定理(Universal approximation theorem)(Hornik et al., 1989; Cybenko, 1989) ネットワークが十分な数の隠れ層を持つ時、線形の出力層と、(ロジスティックシグモイド活性化関数のような)「押しつぶす」事ができる活性化関数を持つ隠れ…

論文解説 音声認識システムでの精度向上

解説する論文 タイトル: Server-side Rescoring of Spoken Entity-centric Knowledge Queries for Virtual Assistants 著者: Youyuan Zhang, Sashank Gondala, Thiago Fraga-Silva, Christophe Van Gysel 論文のURL: https://arxiv.org/pdf/2311.01398.pdf …

論文解説 レビューテキストを使ったレコメンド

解説する論文 タイトル: Recommendations by Concise User Profiles from Review Text 著者: Ghazaleh H. Torbati, Anna Tigunova, Andrew Yates, Gerhard Weikum 論文のURL: https://arxiv.org/pdf/2311.01314.pdf 論文発表日: 2023年1月 専門外の人でも分…

論文解説 GPTでネット上のミームの分析

解説する論文 タイトル Is GPT Powerful Enough to Analyze the Emotions of Memes? 著者 Jingjing Wang, Joshua Luo, Grace Yang, Allen Hong, Feng Luo 論文のURL https://arxiv.org/pdf/2311.00223.pdf 論文発表日 2023年11月1日 参考 メームとは https:/…

論文解説 LLMを使ったテキストのトピックモデリング

解説する論文 タイトル: TopicGPT: A Prompt-based Topic Modeling Framework 著者: Chau Minh Pham, Simeng Sun, Alexander Hoyle, Mohit Iyyer 論文のURL: https://arxiv.org/pdf/2311.01449.pdf 論文発表日: 2022年11月 専門外の人でも分かる解説 この論…

論文解説 ChatGPTを語学学習に使う

要約 タイトル: Chat GPT Integrated with Voice Assistant as Learning Oral Chat-based Constructive Communication to Improve Communicative Competence for EFL Learners 著者: Wei Zhou 論文のURL: https://arxiv.org/pdf/2311.00718.pdf 論文発表日: …

論文解説 ビジョン言語タスクの評価

解説する論文 タイトル: GPT-4V(ision) as a Generalist Evaluator for Vision-Language Tasks 著者: Xinlu Zhang, Yujie Lu, Weizhi Wang, An Yan, Jun Yan, Lianke Qin, Heng Wang, Xifeng Yan, William Yang Wang, Linda Ruth Petzold 論文のURL: https:/…

論文解説 対話型レコメンデーション

要約 タイトル: Extracting user needs with Chat-GPT for dialogue recommendation 著者: Yugen Sato, Taisei Nakajima, Tatsuki Kawamoto, Tomohiro Takagi 論文のURL: https://arxiv.org/abs/2310.19303 この論文の解説です。 論文発表日: 30 Oct 2023 専…

論文解説 NLPタスクの評価に関する問題

要約 タイトル: NLP Evaluation in trouble: On the Need to Measure LLM Data Contamination for each Benchmark 著者: Oscar Sainz, Jon Ander Campos, Iker García-Ferrero, Julen Etxaniz, Oier Lopez de Lacalle, Eneko Agirre 論文のURL: https://arxi…

論文解説 AIが書いたかAIが判別する

要約 タイトル: Detection of news written by the ChatGPT through authorship attribution performed by a Bidirectional LSTM model 著者: Amanda Ferrari Iaquinta, Gustavo Voltani von Atzingen 論文のURL: https://arxiv.org/abs/2310.16685 この論文…

論文解説 LLMでDLの性能を予測するモデルを構築

要約 タイトル: LLM Performance Predictors are good initializers for Architecture Search 著者: Ganesh Jawahar, Muhammad Abdul-Mageed, Laks V. S. Lakshmanan, Dujian Ding 論文のURL: https://arxiv.org/abs/2310.16712 この論文の解説です。 論文発…

論文解説 LLMを使ったシステマティックレビュー

要約 タイトル: Can large language models replace humans in the systematic review process? Evaluating GPT-4's efficacy in screening and extracting data from peer-reviewed and grey literature in multiple languages 著者: Qusai Khraisha, Sophi…

論文解説 LLMを用いた因果推論

タイトル: Causal Inference Using LLM-Guided Discovery 著者: Aniket Vashishtha, Abbavaram Gowtham Reddy, Abhinav Kumar, Saketh Bachu, Vineeth N Balasubramanian, Amit Sharma 論文のURL: https://arxiv.org/abs/2310.15117 この論文の解説です。 論…

論文解説 LLMの新しい評価方法

要約 タイトル: BotChat: Evaluating LLMs' Capabilities of Having Multi-Turn Dialogues 著者: Haodong Duan, Jueqi Wei, Chonghua Wang, Hongwei Liu, Yixiao Fang, Songyang Zhang, Dahua Lin, Kai Chen 論文のURL: https://arxiv.org/abs/2310.13650 こ…

k-means法

k-means法とは k-meansは、教師なし学習の一つで、データをk個のクラスタに分けるアルゴリズムです。データの「重心」や「代表点」を用いて、データ間の類似性に基づいてグループ化します。 機械学習の中での位置付け k-meansは教師なし学習の一部として位置…

論文解説 動画内のインスタンスセグメンテーション

要約 タイトル: Deep Learning Techniques for Video Instance Segmentation: A Survey 著者: Chenhao Xu, Chang-Tsun Li, Yongjian Hu, Chee Peng Lim, Douglas Creighton 論文のURL: https://arxiv.org/abs/2310.12393 この論文の解説です。 論文発表日: 1…

論文解説 テーブルタスク(表形式)をGPTで

要約 タイトル: Table-GPT: Table-tuned GPT for Diverse Table Tasks 著者: Peng Li, Yeye He, Dror Yashar, Weiwei Cui, Song Ge, Haidong Zhang, Danielle Rifinski Fainman, Dongmei Zhang, Surajit Chaudhuri 論文のURL: https://arxiv.org/abs/2310.09…

SVM(サポートベクターマシーン)

SVM(サポートベクターマシーン)とは? SVMは「Support Vector Machine(サポート ベクター マシーン)」の略で、教師あり学習の機械学習アルゴリズムの一つです。 このアルゴリズムは特に認識性能に優れており、画像のパターン認識などによく使用されます…

論文解説 アイディアから画像生成 Idea2Img

要約 タイトル: Idea2Img: Iterative Self-Refinement with GPT-4V(ision) for Automatic Image Design and Generation 著者: Zhengyuan Yang, Jianfeng Wang, Linjie Li, Kevin Lin, Chung-Ching Lin, Zicheng Liu, Lijuan Wang 論文のURL: https://arxiv.o…

カイ二乗検定

カイ二乗検定とは カイ二乗検定は、集計結果に出た差が偶然なのか、それとも何か意味(原因)があるために生じた差なのかを確認するための統計的手法です。具体的には、観測されたデータと期待されるデータとの間に統計的に有意な差があるかどうかを判断しま…

論文解説 AIによるネットワークの負荷予測

要約 タイトル: AI/ML-based Load Prediction in IEEE 802.11 Enterprise Networks 著者: Francesc Wilhelmi, Dariush Salami, Gianluca Fontanesi, Lorenzo Galati-Giordano, Mika Kasslin 論文のURL: https://arxiv.org/abs/2310.07467 この論文の解説です…