LLM
「LangChain」とは多様なLLMと接続する仕組みかと思っていましたが、そんな単純なものではないようで。 一言でいうと「LangChain」とは、、、 LangChain ＝ LLMを使ったアプリを作るための“レゴブロック”セット＋通信レイヤー＋状態管理の仕組み ちょっと分…
「LangChain」とは多様なLLMと接続する仕組みかと思っていましたが、そんな単純なものではないようで。 一言でいうと「LangChain」とは、、、 LangChain ＝ LLMを使ったアプリを作るための“レゴブロック”セット＋通信レイヤー＋状態管理の仕組み ちょっと分…
「プロンプトエンジニアリング」という言葉をよく耳にすると思います。「プロンプトエンジニアリング」とは何でしょうか？「プロンプトエンジニアリング」とは、人工知能（AI）や特に自然言語処理（NLP）モデルに対して、効果的な入力（プロンプト）を設計・…
RAG(Retrieval Augmented Generation、検索拡張)について。 RAG（検索拡張生成）は、大規模言語モデル（LLM）の弱点を補いながら、より正確で有用な回答を生成する技術として注目されています。 RAGとは？ RAG（検索拡張生成）は、大規模言語モデル（LLM）の…
LLMのアーキテクチャについて。 LLMには現在多くの種類がありそれぞれに微妙な違いはありますが、共通してTransformer というアーキテクチャを使用していて。 Transformer の詳細は以下のリンクから（youtube）。 youtu.be 自分にはTransformer の数学的な処…
パラメータとは？ LLM（大規模言語モデル）のパラメータとは、モデルの学習過程で調整される重みやバイアスのことを指します。これらのパラメータが、入力されたテキストに対する出力を決定する重要な要素です。 LLMのパラメータファイルの中身は大量の数値…
LLMの内部構造 LLMの内部構造を見るにあたり、LLaMA-2 を例に。 LLaMa-2 のソースコードはGithub で公開されており、プログラムはPython で実装されている。 LLaMa-2は以下の主な構成要素で成り立っている。 ・Pythonコード ・パラメータ ・トークナイザ LLM…
AIと生成AI、LLMについて AI（人工知能）とは？ ・人間の知的な作業をコンピューターに実行させる技術やシステムのことを指します。 生成AI（Generative AI）とは？ ・生成AI（Generative AI）とは、テキスト・画像・音声・動画・コードなどのコンテンツを新…
