IT・プログラミング

IT・プログラミング

地図上のルート情報をKMLファイルに出力するPythonコード

Leafletを使って表示された ルートのサイトからKMLデータを取り出したかったので、そのPythonコードを書いてみました。 実行環境はGoogle Colabです。 SeleniumによるHTML取得 まずは、Seleniumで地図タ...
IT・プログラミング

デジタルコンテンツ管理のベストプラクティスを考える

デジタルコンテンツは非常に便利です。 物理的なスペースを取らないので、簡単に大量に保存可能です。 しかし、簡単に保存できる反面、きちんと整理できていないと、該当のデータがどこにあるのか探せなかったり、なくなっていたり、全く使わないデータで容...
IT・プログラミング

Cloud Run Functions無料枠の注意点 Artifact Registryの設定

Cloud Run FunctionsとArtifact Registry 今回は、Cloud Run Functions無料枠を使っているときに費用が発生してしまったので、その原因をまとめたいと思います。 費用の内訳を確認すると、Arti...
IT・プログラミング

ベルマン方程式とは?~導出と具体例~

ベルマン方程式は、強化学習や動的計画法で使われる数理モデルで、「最適な行動を選ぶための指針」を提供します。特に、長期的な報酬を最大化するために、各状態で取るべき最適な行動を求めるために利用されます。 ベルマン方程式とは? ベルマン方程式は、...
IT・プログラミング

迷路で理解する動的計画法と方策反復法

動的計画法とは 動的計画法(Dynamic Programming, DP)は、問題を部分問題に分解して解く手法です。強化学習では、状態ごとに最適な価値を計算し、その情報をもとに最適な方策(Policy)を決定します。特に、エージェントがど...
IT・プログラミング

強化学習の基本問題 バンディット問題とは?

バンディット問題とは バンディット問題 (Multi-Armed Bandit Problem) とは、強化学習の基本的な課題の1つで、限られた資源をどう配分すれば最大の報酬を得られるかを学ぶ問題です。「バンディット」とは、カジノのスロット...
IT・プログラミング

強化学習の基本アルゴリズム ε-greedy法

ε-グリーディー法とは ε-グリーディー法(Epsilon-Greedy Method)は、強化学習の代表的な探索アルゴリズムの一つで、探索(exploration)と活用(exploitation)のバランスを取るためのシンプルな手法です...
IT・プログラミング

強化学習におけるマルコフ決定過程 (MDP) とは?

マルコフ決定過程 (MDP) とは? マルコフ決定過程 (Markov Decision Process, MDP) は、エージェントがある環境内で行動し、最適な行動方針(ポリシー)を見つけるための数学的枠組みです。 特に、強化学習で頻繁に...
IT・プログラミング

機械学習の種類を理解する

機械学習の種類 機械学習は、コンピュータがデータから学習し、パターンを見つけて意思決定を行うための技術です。機械学習は大きく 教師あり学習、教師なし学習、強化学習 の3つに分類されます。この記事ではそれぞれの学習の特徴や適用する問題を見てい...
IT・プログラミング

単語ベクトルのエンベッディング:局所表現と分散表現

自然言語処理(NLP)において、単語の表現方法はモデルの性能に大きな影響を与えます。以前は、単語を「局所表現」で表す方法が一般的でしたが、現在では「分散表現」として単語ベクトル(Word Embedding)を利用することが標準となっていま...