IT・プログラミング 迷路で理解する動的計画法と方策反復法
動的計画法とは 動的計画法（Dynamic Programming, DP）は、問題を部分問題に分解して解く手法です。強化学習では、状態ごとに最適な価値を計算し、その情報をもとに最適な方策（Policy）を決定します。特に、エージェントがど...
あゆ
IT・プログラミング 
IT・プログラミング ベルマン方程式とは？～導出と具体例～
ベルマン方程式は、強化学習や動的計画法で使われる数理モデルで、「最適な行動を選ぶための指針」を提供します。特に、長期的な報酬を最大化するために、各状態で取るべき最適な行動を求めるために利用されます。 ベルマン方程式とは？ ベルマン方程式は、...
投資・ファイナンス Pythonでサクッと仮想通貨データを取得する方法
仮想通貨のデータを取得して分析したいときに、Pythonとオープンソースライブラリ「CCXT」を使えば簡単に取引所からのデータを取得できます。本記事では、仮想通貨取引所「Coincheck」からデータを取得する方法を紹介します。必要なデータ...
AI・機械学習 強化学習におけるマルコフ決定過程 (MDP) とは？
マルコフ決定過程 (MDP) とは？ マルコフ決定過程 (Markov Decision Process, MDP) は、エージェントがある環境内で行動し、最適な行動方針（ポリシー）を見つけるための数学的枠組みです。 特に、強化学習で頻繁に...
IT・プログラミング 強化学習の基本アルゴリズム ε-greedy法
ε-グリーディー法とは ε-グリーディー法（Epsilon-Greedy Method）は、強化学習の代表的な探索アルゴリズムの一つで、探索（exploration）と活用（exploitation）のバランスを取るためのシンプルな手法です...
IT・プログラミング 強化学習の基本問題 バンディット問題とは？
バンディット問題とは バンディット問題 (Multi-Armed Bandit Problem) とは、強化学習の基本的な課題の1つで、限られた資源をどう配分すれば最大の報酬を得られるかを学ぶ問題です。「バンディット」とは、カジノのスロット...
IT・プログラミング 強化学習とは？
強化学習とは 強化学習 (Reinforcement Learning) とは、エージェント（学習者）が環境の中で試行錯誤を繰り返しながら、最適な行動を学習する機械学習の一分野です。エージェントは「行動 → 環境からのフィードバック（報酬）...
IT・プログラミング グラフニューラルネットワーク（GNN）とは
グラフニューラルネットワークとは グラフニューラルネットワーク（GNN, Graph Neural Network）は、グラフデータに対して適用できるディープラーニングモデルです。グラフデータはノード（頂点）とエッジ（辺）で構成されており、...
IT・プログラミング TransformerをGNN（グラフニューラルネットワーク）の観点から考えてみる
前回の記事ではTransformerについて概要を解説しました。 今回は、このTransformerをGNNの観点からとらえてみたいと思います。 グラフニューラルネットワーク（GNN）とは GNNは、グラフ構造データを学習するために設計され...
IT・プログラミング 自然言語処理の重要技術Transformerについて
Transformerとは Transformerは、自然言語処理（NLP）や他の機械学習タスクにおいて非常に重要なモデルの一種です。2017年にVaswaniらによって提案されたこのモデルは、機械翻訳などのタスクで広く使われ、従来のRNN...