@『反実仮想機械学習』出版記念イベント#1 https://cfml.connpass.com/event/313112/ Amazon: https://www.amazon.co.jp/dp/4297140292 質疑応答: https://docs.google.com/documen…

ALICE (Automated Learning and Intelligence for Causation and Economics) is a Microsoft Research project aimed at applying Artificial Intelligence concepts to economic decision making. One of its g...

勉強会リンク：https://cfml.connpass.com/event/179600/ 論文リンク：https://arxiv.org/abs/1909.05299 論文概要： 機械学習的な汎化誤差最小化の定式化に基づく因果効果予測手法が乱立傾向にあります。またそれらの手法は、多くのハ…

反実仮想機械学習〜機械学習と因果推論の融合技術の理論と実践

施策デザインのための機械学習入門〜データ分析技術のビジネス活用における正しい考え方

日経学会2020年度春季大会の企画セッションで話した内容です。 https://cyberagent.ai/blog/pr/release_event/13050/

はじめに 以前, こちらに本記事の評価指標編を書きました. 今回は, 同様の問題が推薦アルゴリズムの学習時にも発生し得ることを指摘し, その解決方法について議論します. 評価指標編を読んでいただいている��は, 重複する内容も多いのですんなり読んでいただけると思います. 目次 はじめに 目次 Toy Example 推薦…

はじめに 機械学習に関連する諸分野では何かしらの統計量（期待判別誤差やリグレットなど）を上から評価したい場面が多くあります. そのような場面で大活躍するのが確率不等式と呼ばれる不等式の数々です. 今後本ブログでもこれらの不等式を多用することが予想されるため, 一度まとめておきます. いくつかの不等式は証明もします. 証…

@ソニーR&Dの皆様

はじめに 最近自身の研究で使うため統計的学習理論の勉強をしています. 2回に渡って基本的な内容をまとめてみます. 目次 はじめに 目次 定式化 有限仮説集合の場合の予測損失の上界の導出 さいごに 参考 定式化 まず, 統計的学習理論のモチベーションを述べます. 入力空間に値をとる確率変数を, 入力空間から出力空間への写…

Introduction

推薦/情報検索システムにおける バイアス除去と不偏学習 Unbiased Learning for Interactive Systems - last updated: 2020/07 齋藤優太 (Yuta Saito)

Machine Learning Papers Reading Pitch (MRPRP) #1 https://machine-learning-pitch.connpass.com/event/127956/

========Paper: https://arxiv.org/abs/2206.07247Slides: https://speakerdeck.com/usaito/nsw-ranking-kdd22-enCode: https://github.com/usaito/kdd2022-fair-rankin...

Twitterでたびたび告知させていただいていますが、『施策デザインのための機械学習入門』という本を技術評論社さんから出させていただきます。紙版は8月4日発売（本記事公開の翌日）、電子版は7月30日にすでに発売されています。 gihyo.jp www.amazon.co.jp 本書の概要は次の通りです。 予測に基づいた…

発表概要： テック企業における機械学習応用の場面においては、機械学習による予測をそのまま用いるのではなく、「それぞれのユーザーにどのファッションアイテムを推薦すべきか？」などの意思決定を下すための情報として用いることが多い。このような場合に、予測精度をオフライン評価指標として用いてしまうと、最終的なモデ…

SCOPE-RL: A python library for offline reinforcement learning, off-policy evaluation, and selection - hakuhodo-technologies/scope-rl

希望者に日経学会CA企画セッションの動画を限定公開いたします！さらに6/22（月）19:00より当社発表メンバーと、日経学会における企画セッションの発表内容を元に気軽ににディスカッションいただけます。サイバーエージェントに関する全般やインターンシップについてなど何でもご質問いただけます。

孫正義育英財団は高い志と異能を持った若者に自らの才能を開花できる環境を提供しています。

はじめに 前回は, ログデータの観測確率が一様ではない場合に傾向スコアで補正した損失関数を用いるPropensity Matrix Factorizationを紹介しました. しかし, 2018年のRecsysにてBest Paper Awardを受賞したCausal Embeddings for Recommenda…

Open Bandit Pipeline: a python library for bandit algorithms and off-policy evaluation - st-tech/zr-obp

はじめに ランキング学習��シリーズ記事の第一弾です. 検索システムで達成したいのは, あるqueryに対してよりrelevantなdocumentを上位に提示することです. queryとdocumentのペアに対して, relevanceが大きければ大きいほど, 大きいスコアをつけるような関数を学習することができれば,…

https://machine-learning-pitch.connpass.com/event/137427/

はじめに ランキング学習のシリーズ記事の第二弾です*1. 前回の記事ではUnbiased Learning-to-Rankと呼ばれる, clickというimplicit feedbackを用いて relevanceに対して最適なスコアリング関数を学習するための損失関数を設計する方法について議論しました. その中で紹介し…

文脈付きバンディットにおけるオフ方策評価は、過去のログデータのみを用いた方策のオフライン性能評価を可能にする。しかし、行動数が多くなる場合に、傾向スコアに基づく既存推定量が精度を著しく悪化してしまう問題がある。これは、推薦・検索システムや言語モデルなど、行動数が多くなりがちな応用において特に深刻な未解決…

※2024/03/21 好評についてきウェビナー枠を用意しました。ウェビナー参加者には後日URLをお知らせします。 # 概要 4月13日(土)に発売される『反実仮想機械学習〜機械学習と因果推論の融合技術の理論と実践〜』の出版記念イベントです。前半のセッションでは近年注目を集める反実仮想機械学習の位置付けからその重要性と最新の研究課題、ビジネスや実社会における応用事例について著者の齋藤優太氏が...

予測に基づいた広告配信や商品推薦など，ビジネス施策の個別化や高性能化のために機械学習を利用することが一般的になってきています。その一方で，多くの機械学習エンジニアやデータサイエンティストが，手元のデータに対して良い精度を発揮する予測モデルを得たにもかかわらず，実際のビジネス現場では望ましい結果を得られないという厄介で不可解な現象に直面しています。実はこの問題は，機械学習の実践において本来必要...

KDD2022 Tutorial on Counterfactual Evaluation and Learning for Interactive Systems

文脈付きバンディットにおけるオフ方策評価は、過去のログデータのみを用いた新しい方策の性能評価を可能にするため、多くの実応用で急速に採用されている。しかし、行動数が多くなる場合に、既存の推定量（多くは傾向スコア重み付けに基づく）の精度が著しく悪化してしまう問題がある。これは、推薦システムや言語モデルなど、…

========Paper: https://arxiv.org/abs/2202.06317Slides: https://speakerdeck.com/usaito/mips-icml2022-enCode: https://github.com/usaito/icml2022-mipsPackage: h...

## なんの勉強会？ 近年因果推論の知識を機械学習に応用したり、逆に因果推論の為に機械学習を応用するといった方法論が提案されています。 この勉強会はCounterfactual Machine Learningと呼ばれるこれらの手法に関する研究や実例の紹介を行う事を目的としたものです。 ## 想定する参加者 機械学習の基礎的な知識を持つことを想定します。 ## 会場と受付 会場：渋谷マークシ...

## 概要 機械学習に関するトップ国際会議 International Conference on Machine Learning (ICML2020)で、多くの因果推論に関連する論文が採択されました。本勉強会では、そのうち日本人によって執筆された論文に関して、著者本人らが日本語でたっぷり時間をとって論文の背景や内容を共有します。 なお、採択された論文一覧はこちらにあります。 機械学習...

※AMP表示の場合、数式が正しく表示されません。数式を確認する場合は通常表示版をご覧ください ※2020年11月7日に、「Open Bandit Pipelineの使い方」の節に修正を加えました。修正では、パッケージの更新に伴って、実装例を新たなバージョンに対応させました。詳しくは対応するrelease noteをご確…

RecSys@19で見られたCounterfactual Machine Learningにまつわる話題の紹介

Open Bandit Pipeline: a python library for bandit algorithms and off-policy evaluation - st-tech/zr-obp

## ビジネス施策を成功に導く！ 齋藤優太先生による講演会『機械学習における施策デザイン』 『施策デザインのための機械学習入門』の著者である齋藤優太先生をお招きし、「機械学習における施策デザイン」をテーマに講演会を開催いたします。 機械学習は、ビジネス施策の効果を高めるための強力なツールです。 しかし一見高性能に見えるモデルの作成に成功しても、実環境に導入すると期待したような効果が得られなか...

This is the recording of the CONSEQUENCES workshop that took place at the ACM RecSys 2022 conference in Seattle, USA on the 23th of September 2022.CONSEQUENC...

CFML勉強会#4 (https://cfml.connpass.com/event/155167/) で使用した発表資料 発表内容： ユーザー体験を高める推薦を達成するために、推薦システムの学習や評価におけるバイアスの除去手法が盛んに議論され始めています。 この発表では主にimplicit fe…

RecSys 2021 Counterfactual Learning and Evaluation for Recommender Systems: Foundations, Implementations, and Recent Advancesby Yuta Saito (Cornell Universit...

発表概要： アルゴリズムや方策の短期結果と長期結果は往々にして異なり、長期性能を推定したり、それに基づいて意思決定を下すことがより理想的である。例えば、クリックベイトアルゴリズムでは短期的なクリック数が増加する可能性はあるが、長期的なユーザー満足は低下するため、短期結果に惑わされずに評価を行えることが重…

※2024/03/21 好評についてきウェビナー枠を用意しました。ウェビナー参加者には後日URLをお知らせします。 # 概要 4月13日(土)に発売される『反実仮想機械学習〜機械学習と因果推論の融合技術の理論と実践〜』の出版記念イベントです。前半のセッションでは近年注目を集める反実仮想機械学習の位置��けからその���要性と最新の研究課題、ビジネスや実社会における応用事例について著者の齋藤優太氏が...

An index of algorithms for offline reinforcement learning (offline-rl) - hanjuku-kaso/awesome-offline-rl

Open Bandit Pipeline: a python library for bandit algorithms and off-policy evaluation - st-tech/zr-obp

米コーネル大学の研究チームは、検索エンジンやレコメンドシステムなどにおいて、全てのコンテンツを公平に表示する新たなランキングシステムを開発した。ユーザーの満足を維持したまま、全てのコンテンツに最低限の露出と利益を保証し、公平性の担保を目指す。