AIアライメントネットワーク（ALIGN） @AIAlignNetJP Twitter profile

Pinned Tweet

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

5 days

9/9に予定されている「AIアライメントネットワーク設立記念シンポジウム」の暫定プログラムができました。 ▶️pdfのダウンロード： ▶️イベントへの参加登録：

1

12

Last Seen Profiles

@Gavins_artdump

@iJerichoTweets

@bokeplokalmalam

@Malaguista18381

@ZambiesDecays

@reggal_haliwala

@nft_sss

@florohoo

@TheRMVoice

@staygittarius

@jenni_c_thomson

@greyman7107

@technewsworld

@ali_tokoz

@curvyy_bitchh

@St4rch1ld589

@Sam__Jarrett

@BitterswtBunny

@BasselAlShehri

@bigwaggs_66

@z11bSqjCojOXlaU

@elisalafan

@MianIsh37482428

@therealmissjo

@WebGL

@gibraans__

@NXP

@Aslibekiro

@yuki_nana_uw_s

@GameAddict

@MarianoOses

@Andress98259898

@Javiertxu19

@DzienniPolski

@dcharleyquinn

@0DAZ3

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

3 months

【活動報告】2024年3月7日（木）、松尾・岩澤研究室と日本ディープラーニング協会（JDLA）が主催し、東京大学で開催された「Yoshua Bengio氏来日特別講演会」の講演録の翻訳をALIGNが担当しました。講演録はJDLAのウェブサイトで公開されています。

1

23

66

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

3 months

【2024年7-8月開講決定！】ALIGNでは、Cold Springer Harbor研究所の永井正之 @mnagai_ さんに企画・ファシリテーションいただき、AIアライメントの概要・技術的トピックを包括的な理解を目指す全4回の「AI アライメント入門コース」を開講します。🧵

1

20

56

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

2 months

【動画公開】小林茂先生 @kotobuki のWebinar動画を公開しました。ポスト現象学、基礎情報学、ベルクソン時間論などの技術論・哲学を訪ねつつ、これからAIとの関係性をどう語れるのかを模索する、ハイレベルかつ議論の種に満ちた講演。ぜひご覧ください！

ALIGN Webinar #7 「テクノロジーの〈解釈学〉」から考えるAI（ゲスト：小林茂さん）

情報科学芸術大学院大学（IAMAS）教授の小林茂さんをお迎えしました。小林茂さんは、大手電子楽器メーカーでの勤務後、慶應義塾大学大学院メディアデザイン研究科から博士号取得（メディアデザイン学）、現在は情報科学芸術大学院大学（IAMAS）メディア表現研究科にて教育・研究活動に従事されています。主な著書に『Prot...

www.youtube.com

0

17

43

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

3 months

【ALIGNブログ公開】英国政府が100億円超を投じる「Safeguarded AIプログラム」とは …2024年の4月にイギリスの政府系研究支援機関ARIAが発表した“Safeguarded AI”プログラムについての @rtakatsky さんによる解説記事です。ぜひご覧ください！

1

20

41

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

3 months

【ウェビナー】「テクノロジーの〈解釈学〉」から考えるAI - 7/4 木 17時～ zoom 情報科学芸術大学院大学（IAMAS）教授の小林茂さん @kotobuki をお迎えします。

1

18

34

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

3 months

人工知能学会 #JSAI2024 はALIGNにとっても大変充実した議論の場となりました。多くの方からいただいた「AIアライメントって何ですか」というご質問。AI研究者の皆様にみていただきたのが、永井さんの動画です。

AIアライメント入門コース（全4回）の紹介（永井正之さん）

AIアライメントネットワーク（ALIGN）では、2024年7、8月にAIアライメントネットワーク入門コース（全4回）を開講します。本コースを企画・ファシリテートしてくださる永井正之さんに、コース概要をお話しいただきました。本コースについてはALIGNのサイトをご確認ください：https://www.aialign...

www.youtube.com

1

11

32

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

4 months

2024.4.12 JETRO記事「米カリフォルニア州で新たなAI規制法が州上院司法委員会を通過」　「この法案が適応されるのは、2024年時点で10の26乗フロップス以上の計算能力で学習されたAIモデル」

米カリフォルニア州で新たなAI規制法が州上院司法委員会を通過(米国) | ビジネス短信 ―ジェトロの海外ニュース

www.jetro.go.jp

2

13

31

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

4 months

Center for AI Safetyが、非専門家に向けたAI Safetyの包括的な教科書を公開。PDF版では560ページ超え。この内容に関するオンラインコースを夏に開講（無料）。

Center for AI Safety

@ai_risks

4 months

Applications are now open for our course on AI Safety, Ethics, and Society, running from July-October 2024, based on a new textbook by Dan Hendrycks. Apply by May 31st to take part. Course & Textbook: Apply: 🧵 (1/3)

1

16

25

1

16

29

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

5 months

ALIGNでは、AIアライメントに関する研究やイベント、その他各種動向について情報共有を行うSlackコミュニティ（主に日本語）を運営しています。参加希望される方も、Webサイトのコンタクトフォームよりお知らせください。

Contact 1 — ALIGN

www.aialign.net

0

16

30

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

4 months

2024.4.15 Cambridge大学のU. Anwar, D. Krueger氏ら40名弱の国際チームによる、LLMのアライメントと安全性の未解決問題に関する175ページの総説論文。 1）LLMの科学的理解、2）訓練手法や実装場面の課題、3）社会における課題に分け、広範な文献調査に基づき200超のリサーチクエスチョンを同定。

David Krueger

@DavidSKrueger

4 months

I’m super excited to release our 100+ page collaborative agenda - led by @usmananwar391 - on “Foundational Challenges In Assuring Alignment and Safety of LLMs” alongside 35+ co-authors from NLP, ML, and AI Safety communities! Some highlights below...

7

153

451

1

11

29

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

4 months

AIアライメントネットワーク（ALIGN）では、5月中旬ころから、ウェビナーや勉強会等、AIアライメントの研究・実践のための学習機会となる催しをいくつか実施していきます。このXアカウントで告知しますので、もうしばらくお待ちください。

0

18

28

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

2 months

WCCI 2024 AIガバナンス公開フォーラムが明日、パシフィコ横浜で開催されます。ALIGNの髙橋代表理事が「日本におけるAIセーフティ研究のエコシステムの現状と、その興隆に向けたALIGNの計画について講演します。

1

18

25

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

4 months

2024.4.16 Stanford人間中心AI研究所（HAI）から恒例の「AI Index Report 2024」を発行。昨年から大幅に増量した500ページ超の紙幅にて、AI研究の論文数・特許・先端モデルの開発動向・投資額・経済的インパクト・科学や教育への影響・ガバナンス・社会受容など包括的に報告。

Luiza Jarovsky

@LuizaJarovsky

4 months

🚨BREAKING: The @Stanford Institute for Human-Centered AI publishes its Artificial Intelligence Index Report 2024, one of the most authoritative sources for data and insights on AI. Below are its top 10 takeaways: 1. AI beats humans on some tasks, but not on all; 2. Industry

18

728

2K

1

6

24

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

4 months

ALIGNで今後開催予定の勉強会のページを作成しました。二つの勉強会の詳細は追って更新します。

Study Groups - 勉強会 — ALIGN

www.aialign.net

0

10

24

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

3 months

【ALIGNブログ・動画公開】開催記録：ALIGN Webinar #3 Evan Miyazono博士　AIの安全性レビューをより形式的に行う方法の導入を目指すAtlas Computingのアプロ―チと、AI Safety分野の発展の見通しに関するEvanさんならではの鋭い洞察を共有いただいています。ぜひご覧下さい。

1

10

22

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

4 months

ALIGN Webinar第3回では、2023年創設の非営利組織Atlas ComputingのCEO、Evan Miyazono博士を招き、形式検証に基づくAIの安全保証ツール開発、そしてメタサイエンス的視点から見たAI Safety分野の今後の発展の見通しについて伺います。日時：2024年5月24日（金）10:00 am-

0

13

20

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

4 months

ALIGN Webinarシリーズの第1回では、Center for AI Safety (CAIS)のDan Hendrycks博士をお招きします。CAISの歩み、Hendrycks博士がこの分野で活動するに至った経緯、AIが抱えるリスクの現状についてトークいただきます。日時：2024年5月17日（金）10:00 am-

#1 Dr. Dan Hendrycks on the history of CAIS (Center for AI Safety) and the current state of...

In this very first event in of the ALIGN webinar series, we invite Dr. Dan Hendrycks, who is one of the leading figures in promoting both technical research and field-building activities in AI...

www.aialign.net

1

14

20

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

3 months

2024.5.30　自民党「AIの進化と実装に関するプロジェクトチーム」でのAIセイフティ・インスティテュート（AISI）村上所長の発表資料公開。日本AISIの活動とロードマップを共有。「具体的なアウトプットを基に、国内普及を図っていく…同時に、グローバルなポジショニングを確保していくことが重要」

小森卓郎（こもりたくお）　衆議院議員石川1区

@takuokomori_1

3 months

5月30日、自民党の｢AIの進化と実装に関するPT｣（平将明座長 @TAIRAMASAAKI ）が開催されました。｢AIの世界的なリスクの課題について｣、AISI 村上明子所長にプレゼンしていただきました。資料はこちらから→ #AIPT

0

20

41

1

9

19

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

5 months

AIアライメントネットワーク（ALIGN）は、4月5,6日のTechical AI Safety Conference 2024にスポンサーとして参加します。東京に技術的なAI Safety、AIアライメントの研究者が集うまたとない機会を作ってくださった主催者の皆様に深く感謝します。

AIセーフティ技術学会

2024年4月5日に東京で開催。AIセーフティの研究者が知識を共有し、分野での協力を促進するイベントです。ぜひご参加してください！

tais2024.cc

0

7

19

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

3 months

【イベント】AIガバナンスとフェアネス（ゲスト：工藤郁子さん） - 6/21 金 18時～ zoom 法学と国際ルール形成の観点からAIを見てこられた工藤さん @inflorescencia より、昨今のAIガバナンス、とりわけフェアネスに焦点を当ててお話いただきます。初の日本語開催！

1

15

18

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

2 months

【ボランティアスタッフ募集】AIアライメントネットワーク（ALIGN）は、現在、ボランティアスタッフを募集しています。「AIと人類の希望ある未来」を目指すALIGNの活動に共感し、コミュニティを共に成長させていただける方のご応募をぜひお待ちしております。詳細はこちら：

スタッフ募集 — ALIGN

www.aialign.net

0

14

29

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

3 months

2024.5.27　Jiらのサーベイ論文「AI Alignment: A Comprehensive Survey（第4版）」の、立教大学大学院人工知能科学研究科の大庭弘継先生、浦東聡介先生らによる翻訳が公開に。

AIアラインメントのサーベイ論文の翻訳を公表

AIアラインメント分野を包摂するサーベイ論文、AI Alignment: A Comprehensive Su…

hardestchoice.org

0

4

18

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

4 months

ALIGN Webinar第2回（共催： @alignmentalkjp ）では、 MITで認知科学×AIを研究するTan Zhi Xuan氏をお迎えし、AIアライメントと哲学的多元主義、ガバナンスの交差点、AIを社会にアラインするアプローチについてお話しいただきます。日時：2024年5月18日（土）11 am-

1

5

18

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

2 months

「AIによるAI研究」は、AGIに向かう一つの起爆剤として近年大きな焦点の一つとなっており、これを世界で分散的に研究すること、またアライメントに気を付けながら推進していくことは、非常に重要なテーマだと思います。本件は、AIアライメントネットワークとしても活発に議論していきます。

Shiro Takagi

@takagi_shiro

2 months

AI 研究ができる AI の実現を目指してますが、分野が想定より進んでないと感じてますし己の力不足も痛感してます。これは極めて重要でこの1, 2年が勝負だと思ってるので、組織の垣根を超えてガンガン進めて加速させたいと思ってます！興味ある方是非一緒に進めてきましょう！

3

23

124

0

3

17

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

5 months

第2回目のAI Safety Summitの日程が発表に。5/21-22に韓国ソウルで開催。デジタル大臣の会合のほか、Bengio氏らが取りまとめている専門家パネルのレポートが公表に。

UK and Republic of Korea to build on legacy of Bletchley Park

UK and Republic of Korea forging ahead with plans for the AI Seoul Summit on 21 and 22 May.

www.gov.uk

0

6

17

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

2 months

［ALIGNブログ公開］「AIアライメント」小史――用語の発祥と歴史的背景（by bioshok）「AIアライメント」という言葉の発祥とその歴史的背景について、当該テーマに一番詳しい @bioshok3 さんに寄稿いただきました。

「AIアライメント」小史――用語の発祥と歴史的背景 — ALIGN

「AIアライメント」という言葉の発祥とその歴史的背景について、AIのもたらす深刻なリスクに関する発信を行っているエンジニアのbioshokさんに解説いただきました。

www.aialign.net

0

15

21

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

2 months

［Webinar開催］ #8 SFから考える未来のAIリスク（ゲスト：大澤博隆さん） - 7/17（水）19時～慶應義塾大学理工学部准教授、日本SF作家クラブ第21代会長の @hiroosa さんをお迎えし、SFが描いてきたAIから、未来のAIのリスクについて考えます。

1

15

28

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

5 months

2024.04.11 英国ARIAでDavidad氏率いる「Safeguarded AI」プログラム、全体を三つのtechnical area（TA）に分け、総額5900万ポンドをファンドすると発表。まずは£3.5Mの予算で1年間の理論研究プロジェクトを10～16採択予定。計画次第では英国外からでも応募可能。

Safeguarded AI

www.aria.org.uk

1

5

16

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

5 months

#TAIS2024 　2日目が始まります。本日は人工生命（A-Life）からのアプローチ、Agent foundationと呼ばれる理論的なアプローチ、そしてAIモデルの内部を探るmechanicstic interpretabilityに着目した演題が用意されているようです。

TAIS 2024 | Day 2 full livestream (2024-04-06)

This is the livestream from TAIS 2024, a technical AI safety conference hosted at the Plaza Heisei in Tokyo April 5th–6th. Today's sessions cover ALIFE, agen...

www.youtube.com

0

6

16

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

5 months

Noal Siegelさん、LLMの答えの理由について「それっぽい（plausible）」だけでなく正しい（「faithfulな」）説明をもたらすにはどうすればよいか、について。 #TAIS2024

Technical AI Safety Conference (TAIS)

@tais_2024

5 months

Closing the Day Two of #TAIS2024 , @noahysiegel will address the issue of faithfulness in LLMs - whether their outputs faithfully reflect the underlying factors influencing the response. Watch live: #AISafety

0

2

7

0

4

16

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

3 months

人工知能学会 #JSAI2024 [OS-20 統合AIと人との共生] では、ALIGNから山川宏 @hymkw と林祐輔 @hayashiyus が、超知能が人間の支配下から離れた後、自律的に倫理を獲得するよう誘導する戦略的アプローチの可能性について発表します #超知能倫理 #超越的利他主義 #SuperEthics

JSAI2024/Strategic Approaches to Guiding Superintelligence Ethics

JSAI2024,Strategic Approaches to Guiding Superintelligence Ethics

confit.atlas.jp

1

5

15

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

5 months

Stan van Wingerdenさん、特異学習理論によって大規模モデルの学習過程を解釈できる可能性について紹介。 #TAIS2024

Technical AI Safety Conference (TAIS)

@tais_2024

5 months

Stan van Wingerden's #TAIS2024 talk on how singular learning theory opens doors for interpretability, anomaly detection, and alignment research starts soon. Watch live now: #AIsafety

0

1

13

1

5

15

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

4 months

2024年7月24-25日のDeSci Tokyo/Funding the Commons Tokyoに、ALIGNはスポンサーとして参加します。公共財の新しい在り方を議論するFunding the Commonsでは、そのテーマの一つとしてAIアライメントが扱われる予定です。

Decentralized Science (DeSci) Tokyo | GG21!!

@DeSciTokyo

4 months

We are proud to announce the innovative event together with @FundingCommons in July 24 and 25th, Tokyo, Japan right before the EDCON. ↓ Here is our event.

1

18

46

0

7

14

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

5 months

ALIGNのロゴができました！　今後、Webサイトを徐々に拡充し、ALIGNの活動内容と方向性について開示してまいります。

ALIGN

www.aialign.net

AI Alignment Network (ALIGN)

@AIAlignNetwork

5 months

ALIGN has a brand new logo! Its design merges Human and AI, symbolized by a Japanese-style seal, reflecting our journey into a hopeful future (notice the dual imagery of a 'Person' (人) and an 'A'). We will initiate our activities to become worthy of this logo.

1

7

12

0

6

14

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

3 months

【ALIGNブログ・動画公開】ALIGN Webinar #2 Tan Zhi Xuan氏　　企画・記事作成： @mari_izumikawa AIセーフティとAIアライメントの概念整理から入り、これらの問題をより多元主義的にリフレーミングする構想が展開されています。ぜひ、じっくりお読みください。

【開催記録】ALIGN Webinar #2 Tan Zhi Xuan氏 — ALIGN

2024年5月18日のALIGN Webinarシリーズの第2回では、マサチューセッツ工科大学（MIT）Probabilistic Computing Project and Computational Cognitive Science labの博士課程Tan Zhi Xuan氏をお招きしました。

www.aialign.net

0

13

14

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

4 months

2024.4.15　欧州委員会（EC）に諮問を受けた科学的助言メカニズム（SAM）、「科学へのAIの導入（uptake of AI in Science）」のための欧州の戦略提言と、その背景となるエビデンス報告書を公開。

Scientific Advice Mechanism

@EUScienceAdvice

4 months

Our new advice "Successful and timely uptake of artificial intelligence in science in the EU" is now OUT! 🔊 Check it here:

1

9

20

1

4

13

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

5 months

4月5-6日に実施されたTechnical AI Safety Conference（TAIS）は、世界の最先端の研究動向を知り、トップ研究者と知り合う素晴らしい機会になりました。スポンサーとして参加したALIGNへも、日本でもこの分野の研究コミュニティを作ることへの応援、アドバイス、協力の提案をたくさんいただきました。

1

8

12

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

5 months

【募集案内】超知能がある未来社会シナリオコンテスト（2024/3/31〆切）一般社団法人 AIアライメントネットワーク（ALIGN）が人工知能学会の協賛を得て実施する「超知能がある未来社会のシナリオコンテスト」の締め切りが迫っています。皆様奮ってご応募ください。

Hiroshi Yamakawa

@hymkw

8 months

【募集案内】超知能がある未来社会シナリオコンテスト（2024/3/31〆切）一般社団法人 AIアライメントネットワーク（ALIGN）は、この度「超知能がある未来社会のシナリオコンテスト」の募集を、人工知能学会の協賛を得て開始いたしました。応募は〆切となる2024年3月末日までに、フォーム(

2

46

124

0

9

11

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

3 months

本日のALIGN Webinar #1 にご参加いただいた皆様ありがとうございました。AIのもたらしうるcatastrophic riskと、それに対して何ができうるのかについて、非常に見通しのよいオーバービューが得られたのではないかと思います。本イベントについて後日レポートする予定です。

1

5

13

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

3 months

本日のRyan Kiddさんのトークでは、近未来のAGIについて、その定義、到来時期の予測の幅、それへの対処におけるボトルネックとしての研究者人材、そしてRyanさんらがMATSプログラムを通して構築した、優秀な研究者を継続的に輩出するメカニズムについて、丁寧に解説いただきました。

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

3 months

【イベント】ウェビナー #4 Dr. Ryan Kidd on the State of AI alignment field building - 6/14（金）10時～11時 ML Alignment & Theory Scholars (MATS) やLondon Initiative for Safe AI (LISA) を通じて分野構築に尽力されてきたRyan Kidd氏をお招きします！

1

9

12

1

5

12

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

4 months

2024.5.10 英国AI Safety Institute、独自開発した大規模言語モデル評価のためのプラットフォーム「Inspect」をオープンソース化。国の政府機関が関わったLLM評価ツールの公開は世界初。

AI Safety Institute releases new AI safety evaluations platform

The AI Safety Institute has open released a new testing platform to strengthen AI safety evaluations.

www.gov.uk

1

7

12

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

3 months

［メディア出演］ALIGNの山川理事が、2024年5月22日放送のABEMA NEWSに出演し、未来のAIのリスクとAIアライメントについて解説しました。

0

8

12

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

3 months

［イベント］ALIGNの髙橋代表理事も登壇する「WCCI 2024 AIガバナンス公開フォーラム」はYoshua Bengio氏、Stuart Russell氏、AISI村上所長ほかAIガバナンスの趨勢を担うキーパーソンらが議論を行います。日時：2024/6/30（日）会場：パシフィコ横浜参加費：無料

WCCI 2024 AIガバナンス公開フォーラム

WCCI 2024 AIガバナンス公開フォーラム進化するAIをいかに手なずけるか – 開発者・利用者・政策立案者の対話 –

groups.oist.jp

1

9

12

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

3 months

【イベント】ウェビナー #4 Dr. Ryan Kidd on the State of AI alignment field building - 6/14（金）10時～11時 ML Alignment & Theory Scholars (MATS) やLondon Initiative for Safe AI (LISA) を通じて分野構築に尽力されてきたRyan Kidd氏をお招きします！

1

9

12

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

3 months

AIと人間の関係について、ポスト現象学や基礎情報学といった哲学的道具立てがもたらす新たな視点について、小林さんが近年展開する「テクノロジーの〈解釈学〉」を軸にトークいただきます。後半では、ALIGNの高橋代表理事 @ktakahashi74 とのクロストークにて、AIアライメントとの接点を考えます。

0

3

11

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

5 months

Manuel Baltieriさん、「エージェント」の概念を、能動的推論や自由エネルギー原理の観点からどのように捉えられるのか、それがAI Safetyにどうつながりうるかを議論。 #TAIS2024

Technical AI Safety Conference (TAIS)

@tais_2024

5 months

At #TAIS2024 , @manuelbaltieri will soon discuss how active inference and free energy principle ideas help define "what agents are" and "what they do", and how agents can be separated from their environment. Watch live: #AISafety

0

2

8

0

4

11

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

3 months

関連記事：MATSのRyanさんらによる、AI Safetyの組織づくりにおいて必要となるメンバーの類型（Connector, Iterator, Amplifier）についての考察。

Talent Needs of Technical AI Safety Teams — EA Forum

Co-Authors: @yams, @Carson Jones, @McKennaFitzgerald, @Ryan Kidd …

forum.effectivealtruism.org

1

7

10

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

2 months

【ALIGNブログ・動画公開】開催記録：ALIGN Webinar #4 Ryan Kidd博士　AGIのリスクとは何か、その進展の見通しに関する３つのシナリオと必要な対策、そしてMATSによる人材育成に関する取り組みについて、非常にかみ砕いてお話しくださいました。ぜひご覧ください。

【開催記録】ALIGN Webinar #4 Dr. Ryan Kidd on AI Safety field building — ALIGN

第4回のALIGNウェビナーでは、ML Alignment & Theory Scholars (MATS) の共同ディレクターであり、London Initiative for Safe AI (LISA) の共同創設者のRyan Kidd 博士をお招きしました。Ryan氏はクイーンズランド大学で物理学の博士号を取得後、AI アライメントの分野構築（field building）に尽力され...

www.aialign.net

1

5

9

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

3 months

2024.6.4 閣議決定「統合イノベーション戦略2024」「2024年5月のＡＩ戦略会議で了承された「ＡＩ制度に関する考え方」等を踏まえ、今夏にＡＩ戦略会議の下で新たに開催するＡＩ制度研究会（仮称）において、制度の在り方の検討に着手する。」

0

7

9

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

3 months

2024.5.17 欧州評議会（Council of Europe）がAI条約を採決。日本もオブザーバーとして起草作業に参画。報道例：日経新聞「欧州評議会、初の「AI国際条約」採択　日本も策定に参加」

欧州評議会、初の「AI国際条約」採択　日本も策定に参加

【パリ=時事】英国やフランス、ドイツなど46カ国が加盟する欧州評議会（本部・仏ストラスブール）は17日、人工知能（AI）に関する初の国際条約を採択したと発表した。9月に署名が予定されており、その後の批准を経て発効する。締約国は、AIが人権や民主主義、法の支配といった基本的価値を損なわないよう適切な措置を求められる。欧州評議会のペイチノビッチブリッチ事務局長は「責任あるAIの利用を確実にする」こ

www.nikkei.com

1

6

9

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

3 months

2024.5.28 英国ロイヤルソサイエティ、「AI時代の科学」と題する108ページのレポートを公開。各分野でのAI導入状況、歴史事例分析、特許分析などを踏まえ、1）AIインフラ・ツールへのアクセス整備、2）AIによる科学的アウトプットの信頼構築、3）研究における安全・倫理的なAI利用を提言。

The Royal Society

@royalsociety

3 months

Opaque #AI research tools could undermine trust, make scientific findings less reliable, and limit their usefulness in solving real world challenges says a new report released today by the Royal Society.

2

37

55

1

7

9

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

3 months

2024.5.20　米国AI Safety Institute、9ページの「戦略的ビジョン」を公表。第1の柱に「AI safetyの科学」を位置付け、短期から長期におよぶAI Safetyに資する研究を行うとしている。

0

3

9

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

3 months

このコースは、AI Safety Fundamentals AI Alignment Courseを元に作成しており、AIアライメントに関する基礎的および高度なトピックを包括的に理解できるようにデザインされています。シラバス・リーディングマテリアル・申し込み方法はこちら：

【2024年7-8月開催】AI アライメント入門コース — ALIGN

2024年7～8月にALIGNが実施するAIアライメント入門コースの紹介。AIアライメントに関する基礎的および高度なトピックを深く理解するためにデザインされた、隔週で開催される4回のセッションからなるコースです。

www.aialign.net

1

5

10

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

4 months

2024.4.29　産経新聞記事「人工知能の自律型兵器「ＬＡＷＳ」規制の国際ルール議論　ウィーンで会議」　「人工知能（ＡＩ）を使って敵を攻撃する自律型致死兵器システム（ＬＡＷＳ）の規制について議論する国際会議…オーストリア政府が主催…２日間の日程。」

人工知能の自律型兵器「ＬＡＷＳ」規制の国際ルール議論　ウィーンで会議

人工知能（ＡＩ）を使って敵を攻撃する自律型致死兵器システム（ＬＡＷＳ）の規制について議論する国際会議が２９日、オーストリア政府が主催して首都ウィーンで始まった…

www.sankei.com

1

4

8

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

2 months

小林茂先生のWebinarは2日後です。「AIと人間の関係」について、今まで聞いたことがないお話になると思います。ぜひご参加ください。

ALIGN Webinar #7「テクノロジーの〈解釈学〉」から考えるAI　（ゲスト：小林茂さん（IAMAS）） · Zoom · Luma

今回のALIGNウェビナーでは、情報科学芸術大学院大学（IAMAS）教授の小林茂さんをお迎えします。小林茂さんは、大手電子楽器メーカーでの勤務後、慶應義塾大学大学院メディアデザイン研究科から博士号取得（メディアデザイン学）、現在は情報科学芸術大学院大学（IAMAS）メディア表現研究科にて教育・研究活動に従事されています。主な著書に『PrototypingLab第2版』（オライリー・…

lu.ma

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

3 months

【ウェビナー】「テクノロジーの〈解釈学〉」から考えるAI - 7/4 木 17時～ zoom 情報科学芸術大学院大学（IAMAS）教授の小林茂さん @kotobuki をお迎えします。

1

18

34

0

5

8

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

5 months

2024/4/10 欧州委員会のM. Vestager氏によるプリンストン高等研究所での講演録。同研究所の所長を務めたOppenheimerの言葉を引きながら、AIに対して必要な三つの対策として1)自国内・域内での法規制、2)民主的なAI開発モデルの確立、3)世界的なAIガバナンスへの投資、を主張。

Press corner

Highlights, press releases and speeches

ec.europa.eu

0

4

8

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

5 months

理論が依拠するのは、15年前の「gray book」（Watanabe 2009）。

0

1

8

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

2 months

［Webinar告知］ #6 Evan Hadfield on AI and Democracy - 6/28（金）10時～11時共催： @alignmentalkjp Collective Intelligence Project（CIP）のEvan Hadfieldさんをお迎えします。

#6 Evan Hadfield on AI and Democracy — ALIGN

In the sixth episode of ALIGN webinar series, we invite Evan Hadfield, Projects Director of the Collective Intelligence Project (CIP) and a specialist in Human Computation. Collective Intelligence...

www.aialign.net

1

8

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

5 months

今後、ALIGNの活動準備を加速していきます。運営に参加いただける方を求めておりますので、ぜひお願いいたします。

0

4

8

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

3 months

2024.5.20 Science誌のPolicy Forum欄に投稿された論文。Yoshua Bengio et al. ,Managing extreme AI risks amid rapid progress.　故ダニエル・カーネマン氏も著者に名を連ねている。

Managing extreme AI risks amid rapid progress

Preparation requires technical research and development, as well as adaptive, proactive governance

www.science.org

0

3

8

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

4 months

2024.5.3 OECD、急速な技術の進歩に合わせてAI原則を更新

0

3

8

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

4 months

"davidad" et al. (2024) "Towards Guaranteed Safe AI" 英国ARIAでSafeguarded AIプログラムを率いるdavidad氏を筆頭に、Russell、Bengio、Tegmark、Tenenbaumらが名前を連ねるパースペクティブ論文。安全保証付きAIへの各種アプローチを、三つの要素でマッピング。

Towards Guaranteed Safe AI: A Framework for Ensuring Robust and...

Ensuring that AI systems reliably and robustly avoid harmful or dangerous behaviours is a crucial challenge, especially for AI systems with a high degree of autonomy and general intelligence, or...

arxiv.org

0

3

8

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

3 months

「AIアライメント」はスコープが流動的で、問題設定の確定自体がチャレンジングなテーマ。とはいえ、技術的にそれに取り組む方法論について、一定の体系化と教材化の試みを作積してきたコミュニティが英語圏にはあります。上記動画はそのコンパクトな紹介になっています。ぜひご一覧ください！

0

4

8

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

3 months

こちら明後日です！　世界的に注目を集める「Guaranteed Safe AI」について精力的に取り組むフロントランナーからお話を伺います。ぜひご参加ください。

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

4 months

ALIGN Webinar第3回では、2023年創設の非営利組織Atlas ComputingのCEO、Evan Miyazono博士を招き、形式検証に基づくAIの安全保証ツール開発、そしてメタサイエンス的視点から見たAI Safety分野の今後の発展の見通しについて伺います。日時：2024年5月24日（金）10:00 am-

0

13

20

1

7

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

3 months

2024.5.7 英国DSITとAI Safety Institute、韓国ソウルでのAI Summitを前にYoshua Bengio氏を座長とする国際的な科学者の委員会による中間レポートを発表。

International Scientific Report on the Safety of Advanced AI

An up-to-date, evidence-based report on the science of advanced Artificial Intelligence (AI) safety.

www.gov.uk

0

2

7

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

5 months

#TAIS2024 AI alignmentの分野創設（field building）に精力的に取り組んできたMATSプログラムの2年間の活動報告。多くの修了生がAI企業やアカデミアで活躍しているそうです。

Technical AI Safety Conference (TAIS)

@tais_2024

5 months

@ryan_kidd44 , Co-Director of ML Alignment & Theory Scholars (MATS) Program, begins his presentation at #TAIS2024 ! Ryan will summarise MATS' insights into selecting and developing AI safety research talent and their future plans. Watch live now:

1

0

1

0

4

7

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

3 months

こちら明日開催！　直前まで登録可能です。

#4 Dr. Ryan Kidd on the State of AI alignment field building: learning from MATS and LISA · Zoom ·...

In this ALIGN Webinar, we invite Dr. Ryan Kidd, Co-Director of ML Alignment & Theory Scholars (MATS) and Co-Founder & Board Member of the London Initiative for…

lu.ma

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

3 months

【イベント】ウェビナー #4 Dr. Ryan Kidd on the State of AI alignment field building - 6/14（金）10時～11時 ML Alignment & Theory Scholars (MATS) やLondon Initiative for Safe AI (LISA) を通じて分野構築に尽力されてきたRyan Kidd氏をお招きします！

1

9

12

0

4

7

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

3 months

2024.6.11 AIガバナンス協会「AIガバナンス認証制度に関するディスカッションペーパー ver 1.0」「認証・標準WGによる認証制度へのニーズや今後の検討課題の洗い出しなどの成果を取りまとめ、あり得るAIガバナンス認証制度の枠組みについて試案を提示」

【認証・標準WG】「AIガバナンス認証制度に関するディスカッションペーパー ver 1.0」を公表 | AI Governance Association

www.ai-governance.jp

0

4

7

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

4 months

教科書の目次： 1. AIの壊滅的リスクの概要 2. AIの基礎 3. 単一エージェントの安全性 4. 安全工学 5. 複雑系（complex system） 6. Beneficial AIと機械倫理 7. 集合行為問題 8. ガバナンス付録では規範倫理、強化学習、進化的ゲーム理論などの基礎解説が充実。

AI Safety, Ethics, and Society Textbook

Introduction to AI Safety, Ethics and Society is a course by Dan Hendrycks, director of the Center for AI Safety.

www.aisafetybook.com

1

7

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

3 months

@alignmentalkjp がホストしたALIGN Webinar #2 では、MITのTan Zhi Xuanさんより、効用関数の推定と整合という従来のAIアライメントのとらえ方をリフレーミングするアイディアについて、過去のAI Alignmentの議論や社会科学の知見を踏まえつつ、モデルによる実証研究までを盛り込んだお話を伺いました。

1

3

7

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

4 months

スピーカーのDan Hendrycks博士が率いるCenter for AI Safetyは、昨年5月にAIが人類の絶滅につながるリスクに関するオープンレターを出し話題を集めました。報道例：毎日新聞「AIによる「人類絶滅」回避への道筋」（記事は前半部のみ無料）

AIによる「人類絶滅」回避への道筋　マスク氏に助言する専門家

　人工知能（AI）研究のゴッドファーザーと呼ばれる権威や、名だたるAI開発企業のトップらが、「人類絶滅」の可能性に触れた声明に署名し、世界的な注目を集めている。AIがもたらす絶滅のリスクとは何を意味するのか。人類は破局を回避できるのか。声明をまとめたAIの安全性の専門家で、米非営利団体「センター・フ

mainichi.jp

1

6

7

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

5 months

青柳美輝教授による、線形の深層ニューラルネットワークの学習係数を理論的に境界づける数理研究。 #TAIS2024

Technical AI Safety Conference (TAIS)

@tais_2024

5 months

Miki Aoyagi's #TAIS2024 talk starts soon. Her research shows the learning coefficients of deep linear NNs are bounded, despite infinite layers. Watch live now: #AIsafety

0

7

0

4

7

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

4 months

こちら、いよいよ今週の金曜日です。奮ってご参加ください。詳細：

1

5

7

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

5 months

Tim Parkerさん、AIの倫理的・安全な行動を保証するための形式言語からのアプローチについて。 #TAIS2024

Technical AI Safety Conference (TAIS)

@tais_2024

5 months

Tim Parker's talk on a framework for encoding values for #safeAI in formal logic is about to start at #TAIS2024 . Tim will show how his approach prevents unsafe behavior and ensures safety in dangerous contexts. Watch live: #AISafety

0

1

7

0

1

7

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

3 months

2024.5.21　英国AI Safety Institute、総額850万ポンドの研究グラント発表。偽画像や誤情報の拡散の抑制など、「AIによる変革にどう社会を適応できるかを理解すること」を目的とする「Systemic AI Safety」のための研究を公募。対象は英国をベースにする研究者だが、国際協働を推奨。

AI Safety Institute

@AISafetyInst

3 months

We are announcing new grants for research into systemic AI safety. Initially backed by up to £8.5 million, this program will fund researchers to advance the science underpinning AI safety. Read more:

5

86

222

0

3

6

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

2 months

来週はいよいよ小林茂さんをお迎するウェビナーです。日本語開催になります。ぜひご参加ください。

ALIGN Webinar #7「テクノロジーの〈解釈学〉」から考えるAI　（ゲスト：小林茂さん（IAMAS）） · Zoom · Luma

今回のALIGNウェビナーでは、情報科学芸術大学院大学（IAMAS）教授の小林茂さんをお迎えします。小林茂さんは、大手電子楽器メーカーでの勤務後、慶應義塾大学大学院メディアデザイン研究科から博士号取得（メディアデザイン学）、現在は情報科学芸術大学院大学（IAMAS）メディア表現研究科にて教育・研究活動に従事されています。主な著書に『PrototypingLab第2版』（オライリー・…

lu.ma

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

3 months

【ウェビナー】「テクノロジーの〈解釈学〉」から考えるAI - 7/4 木 17時～ zoom 情報科学芸術大学院大学（IAMAS）教授の小林茂さん @kotobuki をお迎えします。

1

18

34

0

6

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

2 months

【ALIGNブログ・動画公開】ALIGN Webinar #5 「AIガバナンスとフェアネス」ゲスト：工藤郁子さん @inflorescencia （大阪大学社会技術共創研究センター特任准教授）

【開催記録】ALIGN Webinar #5 「AIガバナンスとフェアネス」ゲスト：工藤郁子さん — ALIGN

ALIGNウェビナーで初の日本語開催となる第5回では、大阪大学社会技術共創研究センター特任准教授の工藤郁子（くどう・ふみこ）さんに講演いただきました。AI技術について法学と国際ルール形成の観点から見てこられた工藤さんより、近年のAIガバナンスの状況の大きな見取り図、そして重要論点としての「フェアネス」を取り上げ、顕在化しているバイアスの問題と、そもそもなぜバイアスが問題なのかに関する法学・倫...

www.aialign.net

1

6

7

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

4 months

2024.4.16 米国商務省、AI Safety Instituteの執行メンバーを発表。AI alignment研究の先駆的存在として知られるPaul Christiano氏をHead of AI safetyに、共著書に『システムエラー社会』があるStanford大のRob Reich氏をsenior advisorに起用。

U.S. Commerce Secretary Gina Raimondo Announces Expansion of U.S. AI Safety Institute Leadership...

Raimondo named Paul Christiano as head of AI safety, Adam Russell as chief vision officer, Mara Campbell as acting chief operating officer and chief of staff, Rob Reich as senior advisor, and Mark...

www.nist.gov

0

4

6

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

3 months

【ALIGNブログ・動画公開】開催記録：ALIGN Webinar #1 Dan Hendrycks博士　5/17の Webinar第1回の開催記録です。Center for AI Safetyの歩み、AIが抱える破局的リスク（catastrophic risk）の全体像と有効な対策について、大変有益なトーク・質疑となりました。動画あり。

【開催記録】ALIGN Webinar #1 Dan Hendrycks博士（Center for AI Safety） — ALIGN

2024年5月17日のALIGN Webinarシリーズの第1回では、Center for AI Safety（CAIS）の創設者であり、AIセーフティの分野の技術的研究や提言活動で世界を先導する一人であるDan Hendrycks（ダン・ヘンドリックス）博士をお招きしました。

www.aialign.net

0

5

6

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

3 months

昨今のAIガバナンスの議論をAIの専門家の立場で先導されるBengio教授が、わかりやすくこれからのAIの安全性の問題について解説し、かつ日本の研究者にAI Safety分野への参入を呼び掛ける、貴重な講演になっています。

1

2

5

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

2 months

ALIGNウェビナー第5回では、大阪大学社会技術共創研究センター特任准教授の工藤郁子先生より、近年のAIガバナンスの状況の大きな見取り図、そして重要論点としての「フェアネス」について、顕在化している問題と、そもそもなぜ問題なのかに関する法学・倫理学からの分析を共有いただきました。

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

3 months

【イベント】AIガバナンスとフェアネス（ゲスト：工藤郁子さん） - 6/21 金 18時～ zoom 法学と国際ルール形成の観点からAIを見てこられた工藤さん @inflorescencia より、昨今のAIガバナンス、とりわけフェアネスに焦点を当ててお話いただきます。初の日本語開催！

1

15

18

1

5

6

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

3 months

Safeguarded AIのアプローチについては、今週のALIGN Webinar #3 でも話題になります。ご関心がある方はぜひこちらもご参加ください。

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

4 months

ALIGN Webinar第3回では、2023年創設の非営利組織Atlas ComputingのCEO、Evan Miyazono博士を招き、形式検証に基づくAIの安全保証ツール開発、そしてメタサイエンス的視点から見たAI Safety分野の今後の発展の見通しについて伺います。日時：2024年5月24日（金）10:00 am-

0

13

20

0

2

6

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

4 months

2024.5.2 外務省発表「岸田総理大臣の生成AIに関するOECD閣僚理事会サイドイベント出席」岸田総理発言より「49か国・地域の参加を得て、広島AIプロセスの精神に賛同する国々の自発的な枠組み…「広島AIプロセスフレンズグループ」を立ち上げ」「GPAI東京センターを新設」

岸田総理大臣の生成AIに関するOECD閣僚理事会サイドイベント出席（結果概要）

www.mofa.go.jp

0

1

6

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

3 months

次週はいよいよ工藤郁子さんの回です。ぜひご参加ください！

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

3 months

【イベント】AIガバナンスとフェアネス（ゲスト：工藤郁子さん） - 6/21 金 18時～ zoom 法学と国際ルール形成の観点からAIを見てこられた工藤さん @inflorescencia より、昨今のAIガバナンス、とりわけフェアネスに焦点を当ててお話いただきます。初の日本語開催！

1

15

18

0

4

5

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

2 months

本日の朝のラジオにも出演された工藤さんのウェビナーは金曜日です。選挙におけるAI利用とその規制についても伺えるかもしれません。

工藤郁子 Fumiko Kudo

@inflorescencia

2 months

今朝の #NHK ラジオ #マイあさに出演しました！テーマは「海外の選挙に影響も？生成AI と偽情報」です📱⚖️ 米国バイデン大統領の「なりすまし電話」インドネシアジョコ前大統領の「なりすまし動画」 OpenAI 社の報告書など海外事例に加えて日本での規制強化に向けた検討状況もお話しました

0

7

24

0

3

5

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

2 months

また、AIセーフティに早くから取り組み多くの組織創設を通して分野に貢献してきたJaan Tallinn氏とALIGN共同創設者の金井良太 @kanair_jp との（リモート）対談（fireside-chat）も行われます。

1

2

5

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

3 months

次のALIGNウェビナー #3 では、Xuanさんも最近の論文で関わられていた「Guaranteed Safe AI」のアプローチについて、新しい非営利組織Atlas Computingを立ち上げたEvan Miyazonoさんに話を伺います。

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

4 months

ALIGN Webinar第3回では、2023年創設の非営利組織Atlas ComputingのCEO、Evan Miyazono博士を招き、形式検証に基づくAIの安全保証ツール開発、そしてメタサイエンス的視点から見たAI Safety分野の今後の発展の見通しについて伺います。日時：2024年5月24日（金）10:00 am-

0

13

20

0

2

4

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

3 months

2024.6.2 読売新聞報道。「読売新聞は、過去に国内外で活動した複数の児童タレントの追加データ〔LoRAファイル〕を販売している英語のサイトを確認」「日本の児童買春・児童ポルノ禁止法で規制することは困難とみられ、専門家は法整備の必要性を訴えている。」

実在児童に酷似した性的画像、生成ＡＩで作成か…ネット上で追加学習用データを売買

【読売新聞】　画像生成ＡＩ（人工知能）で、実在の児童に酷似した画像を生成できる追加学習用データが、ネット上で売買されていることがわかった。過去に日本で活動した児童タレントの追加データもあり、追加データで作ったとみられる児童タレントに

www.yomiuri.co.jp

0

3

5

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

2 months

CIPは、AIの民主主義的な構築や、民主主義のためのAI開発の目的に精力的に活動している団体です。CIPには先月Audrey Tang氏が Senior Research Fellowとして参加したことでも話題になりました。来月のFunding the Commonsの予習にもなると思いますので、ぜひご参加ください。

ALIGN Webinar #6 Evan Hadfield on AI and Democracy · Zoom · Luma

In the sixth episode of ALIGN webinar series, we invite Evan Hadfield, Projects Director of the Collective Intelligence Project (CIP) and a specialist in Human…

lu.ma

1

4

5

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

3 months

引き続き、明日はAI Alignment Talk from Japanとの共催で、MITのTan Zhi Xuanさんをお迎えした #2 を行います。まだまだ参加登録可能ですので、ぜひご参加ください。

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

4 months

ALIGN Webinar第2回（共催： @alignmentalkjp ）では、 MITで認知科学×AIを研究するTan Zhi Xuan氏をお迎えし、AIアライメントと哲学的多元主義、ガバナンスの交差点、AIを社会にアラインするアプローチについてお話しいただきます。日時：2024年5月18日（土）11 am-

1

5

18

0

2

5

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

5 months

Oliver Klingefjordさん、人によって異なる価値をグラフ構造でモデル化し、より賢明な（wiser）価値を見つけてLLMに実装する試みについて、出たばかりの研究の紹介。 #TAIS2024

Technical AI Safety Conference (TAIS)

@tais_2024

5 months

@Klingefjord 's #TAIS2024 talk on aligning #AI with human values begins. He'll share insights from using large language models to elicit and reconcile values across 500 Americans on divisive ethical issues. Watch live now: #AIsafety

1

4

12

0

2

4

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

5 months

Aleksander Petrovさん、事前訓練済みのTransformerのPromptingやPrefix-tuningによりどこまでモデルをコントロールできるのかを探究する理論研究。 #TAIS2024

Technical AI Safety Conference (TAIS)

@tais_2024

5 months

At #TAIS2024 , @AleksPPetrov is about to shed light on the mechanics of prefix-tuning - approximating model responses by tuning initial tokens. He'll show a small model's behavior can be thereby universally approximated. Watch live: #AISafety

0

3

0

2

5

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

5 months

#TAIS2024 Jesse Hooglandさんの講演では、深層学習ニューラルネットワークの安全性につながる、渡辺澄夫先生の「特異学習理論」に基づく理論研究について紹介。

Technical AI Safety Conference (TAIS)

@tais_2024

5 months

At #TAIS2024 , @jesse_hoogland is about to show how transformers exhibit discrete developmental stages during in-context learning, when trained on language or linear regression tasks. Watch live now:

0

1

7

0

1

4

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

4 months

5月17日のALIGN Webinar #1 では、この教科書の著者である @DanHendrycks さんをゲストにお迎えします。ぜひご参加ください。

#1 Dr. Dan Hendrycks on the history of CAIS (Center for AI Safety) and the current state of...

In this very first event in of the ALIGN webinar series, we invite Dr. Dan Hendrycks, who is one of the leading figures in promoting both technical research and field-building activities in AI...

www.aialign.net

0

2

4

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

4 months

下記で紹介されているように（by @mari_izumikawa ）、Xuanさんは最先端のAI研究の傍ら、非西洋圏の哲学思想とAI Alignment分野をつなげる重要な考察を展開されています。日本という文化的文脈のなかで活動する私たちにとって、多くのヒントが得られることを期待しています。

AI Alignment Talk from Japan

@alignmentalkjp

5 months

AI Alignment talk from Japan No.6 AIアライメントの学術分野としての課題は？アライメント研究への応用が期待できるPluralityとは何か？是非ご一読ください！

0

3

7

0

2

4

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

3 months

【訂正】誤：Cold Springer Harbor研究所正：Cold Spring Harbor研究所

0

1

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

4 months

カリフォルニア州「最先端AIシステムのための安全で安心な技術革新法（Safe & Secure AI Innovation Act, SB1047）」に関する特設サイト：

Learn more | SB 1047 - Safe & Secure AI Innovation

SB 1047 encourages AI innovation while safeguarding against possible risks. Learn why SB 1047 is needed to encourage responsible AI development in California.

safesecureai.org

0

2

4

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

4 months

2024年6月30日のWCCI公開フォーラム「Open Forum on AI Governance」に、ALIGNはスポンサーとして参加し、代表理事の髙橋が「Session 1: Future prospects and dangers of AI」にてトークを行います。ハイブリッド開催。

0

2

4

AIアライメントネットワーク（ALIGN）

@AIAlignNetJP

4 months

論文はこちら。 U. Anwar, et al. Foundational Challenges in Assuring Alignment and Safety of Large Language Models

0

1

3