Tsuyoshi Ide (井手 剛) Profile
Tsuyoshi Ide (井手 剛)

@Idesan

7,037
Followers
518
Following
114
Media
3,719
Statuses

Hi, I'm Ide-san, Ph.D., a computer scientist working on machine learning and AI. I'm with IBM Thomas J. Watson Research Center, NY, USA.

NY, USA
Joined June 2009
Don't wanna be here? Send us removal request.
@Idesan
Tsuyoshi Ide (井手 剛)
5 years
日本人がノーベル賞なり何なりを取ると、すかさず日本にネガティブな発言をかましてインテリ感アピールする人がTwitterなりでものすごい数出てくるんだけど、海外で肩身狭く暮らしている日本人家庭では、日本語および日本文化への敬意を培う最高の機会なので、少し黙っててほしい。
32
4K
11K
@Idesan
Tsuyoshi Ide (井手 剛)
4 years
自宅待機命令が出ていて、理由なくぶらぶらしてると罰金取られかねないNYに住んでる自分から見れば、日本は行動の自由度の点でも医療の利用しやすさの点でも理想郷に見えるのですが、不思議ですね。→ 「日本人の6割が政府の新型コロナ対応に不満 国際世論調査」
226
5K
11K
@Idesan
Tsuyoshi Ide (井手 剛)
4 years
日本の事情よく知らないので誤解しているかもしれないけど、アメリカの100倍安全な日本で、2か月議論をしたあげく、親に丸投げ自宅学習の計画しか立てられなかった関係者はプロとして終わっていると思う。
34
806
3K
@Idesan
Tsuyoshi Ide (井手 剛)
5 years
CNNなりのアメリカの主要メディアの科学記事を読む人なら誰でも知ってると思うけど、当たり前のように専門誌の原論文にリンクが張られている。記者はそういう一次情報にも目を通す。一流紙の記者が原論文のアブストラクトすら読む学力がないように見えるのは、主要国だと日本だけじゃないですかね。
5
1K
3K
@Idesan
Tsuyoshi Ide (井手 剛)
5 years
おれはDeepな論文を書いたことはないので専門家でもなんでもないけれど、これは英語・日本語で今まで見た中で一番素晴らしいまとめだと思う。 『深層学習の原理を明らかにする理論の試み』
0
610
3K
@Idesan
Tsuyoshi Ide (井手 剛)
4 years
民度、という言葉はこう訳されたらしい。
@business
Bloomberg
4 years
Japan minister says higher "cultural standard" helped beat virus
57
340
624
15
1K
2K
@Idesan
Tsuyoshi Ide (井手 剛)
5 years
「検査は肺炎などの重症疾患で入院が必要な人々のみに使用されるべきです」とあり、これは医師のスクリーニングを必ず通すという日本型の対応モデル。アメリカも今頃それに行きついたわけだが、結果として初期の段階でその意思決定を妨げる形になった岩田某氏の責任は重い。
10
503
2K
@Idesan
Tsuyoshi Ide (井手 剛)
7 years
大学の先生で、「授業を英語にすれば、英語もできるようになるし国際競争力ばっちり」って信じている人相当いるっぽいけど、おれの場合、たぶんおれの頭が悪いだけだと思うけど、わからないことをわからない言葉で説明されても、やっぱわからないんだよね。
4
2K
2K
@Idesan
Tsuyoshi Ide (井手 剛)
5 years
数学基礎論だったかの、超ディープな数学理論の研究をしている先生が、うっかり自分の専門or所属を素で明かしてしまった結果、近所の奥さん方に、あの歳してまだ基礎なんですってうぷぷ、みたいにバカにされているという話を聞いたことがある。
3
807
2K
@Idesan
Tsuyoshi Ide (井手 剛)
2 years
機械学習の教科書をまともに勉強したことがないけど深層学習のAPIには詳しい、みたいな人が、謎の車輪の再発明をしているような論文はよく目にするけど、査読する方も大半がそういう人だから、もはや何をやっているのか時々わからなくなる。この流れは悪化の一途。全体が壊れ始めてるのかもしれん。
8
311
1K
@Idesan
Tsuyoshi Ide (井手 剛)
6 years
並木美喜雄『デルタ関数と微分方程式』( )まえがき冒頭。すごい名文。このくらいの文章をいつか書きたい。
Tweet media one
4
479
1K
@Idesan
Tsuyoshi Ide (井手 剛)
2 years
深層学習の主要設計原理(?)のひとつであるTransformerの最近の展開が要領よくまとめられて便利な論文。これを読むと、低ランクとかスパースとか、まるで、Transformerというプラットフォームの上で、かつてのデータマイニングの研究史を繰り返しているかのよう。
2
157
953
@Idesan
Tsuyoshi Ide (井手 剛)
2 years
機械学習により科学的発見を加速できるか、という問いに対するひとつの網羅的な調査結果が Journal of the American Chemical Society という化学のトップ誌に掲載。実験条件の多様性などにより、機械学習の有用性は限定的との結果。
2
307
942
@Idesan
Tsuyoshi Ide (井手 剛)
1 year
今から10年くらい前に、深層学習の裾野が爆発的に拡大して、その後数年で、米国と中国で、機械学習系の大学院生の数が10倍くらいに増えた。彼らは今や博士号を取得し、査読側に回っている。彼らが新世代として「アーキテクチャ図で話が済む(式は飾り)」系の文化を作っている。
2
163
936
@Idesan
Tsuyoshi Ide (井手 剛)
6 years
東大計数で一回講義したことあるんだけど、ちょっと理論的な話になると普通の大学なら学生の目がよどんできて、ああこれはいかんと思うんだけど、計数の人は逆で、与太話みたいなやつはCPU10%くらいで流してて、理論目の話になると急にキリッとした感じになるのよ。さすが違うなと思ったね。
0
177
886
@Idesan
Tsuyoshi Ide (井手 剛)
6 years
東大なりMITなりを卒業した大学院生でも研究テーマ選びに四苦八苦して、自殺したり失踪したりする人数知れずだというのに、小学生にあたかもそれが簡単なことであるかのように自由研究させるって、どうなんすかね。
1
245
861
@Idesan
Tsuyoshi Ide (井手 剛)
2 years
少し引いて見れば、深層学習による音声認識技術の進歩は立派だったけど、それがどうビジネスに貢献したのかと問われているとも取れる。自然言語処理、画像認識も同じ。これら三分野が牽引したAIの宴は終わりつつあるということ。
1
262
837
@Idesan
Tsuyoshi Ide (井手 剛)
6 years
AIの研究史からわれわれが学んだことは、われわれが明示的に言語化できる(かもしれない)ことがらの範囲は、人間の全能力および世界の多様性に比べて圧倒的に狭いために、世界を記述するのに十分なステートメント集合を得ることはほぼ不可能であること。
2
337
806
@Idesan
Tsuyoshi Ide (井手 剛)
5 years
ざっくりまとめると、アメリカ人は、0.最も労働時間の長い国のひとつ、1.休暇をあまり取らない、2.産後休暇をあまり取らない、3.机で仕事しながら昼飯を食べる、4.仕事中はほとんど休憩しない、5.業務時間後にもメールする。
6
501
768
@Idesan
Tsuyoshi Ide (井手 剛)
2 years
ま、すでに何度も各所で話題になっていると思うが一応共有。NeurIPS 22に出る予定のこの論文によれば、言語・画像・音声*以外の*データ(変な言葉だが、「表データ」と呼ぶ)に関して、普通に深層学習を回しても、ブースティング木などの古典手法に勝てない。
2
197
773
@Idesan
Tsuyoshi Ide (井手 剛)
6 years
あと、言い忘れないうちに言っとくけど、東大計数はじめ、日本のトップ大学の学生さんの賢さは、間違いなく世界最高レベル。MITとかの学生を散々面接しての結論なので間違いない。
1
153
700
@Idesan
Tsuyoshi Ide (井手 剛)
2 years
京大加嶋先生et al.のこの強化学習の解説はすばらしい。 既存の強化学習の解説の大半は、たぶんゲームとかの応用が頭に入っている人はいいのかもしれないけど、ゲーマーじゃないおれには理解不能だった。こういう風にズバっと問題設定を言ってほしかった。さすが。
0
125
703
@Idesan
Tsuyoshi Ide (井手 剛)
5 years
COVID-19の致死率について、おそらく現時点で最も網羅的で最も正確な見積もり。データの打切り誤差と、デモグラフィックの差異を補正した結果、全体で1.38%という結果。非常に重要な示唆は、治療の手厚さがこの数値にあまり影響しないように見える、という点。
3
401
630
@Idesan
Tsuyoshi Ide (井手 剛)
7 years
まだ日本で消耗してるの?みたいな煽りがよく流れて来るのですが、米国の就労ビザを現実的な労力で得るためには、国際的に通用する論文・著書・資格などが必要なので、大企業の後ろ盾のない普通の日本人にとってはほぼ夢物語です。まずは日本で実績を上げ、日本国を良くすることを考えましょう。
2
480
605
@Idesan
Tsuyoshi Ide (井手 剛)
6 years
日本の業務用封筒(窓付き長形3号など)の多くは、国際郵便のルールを満たしておらず、そのまま外国宛に出すと届かない可能性があります。「自分の住所が上、あて先が下」になるのがポイントです。解説画像も作りました。ぜひお気をつけ下さいませ。
Tweet media one
2
286
607
@Idesan
Tsuyoshi Ide (井手 剛)
6 years
若いという以外に取り柄のない女が、「食事に一緒に行くのなら10万円くらいのお小遣いをご用意下さるのは当然の礼儀だと思います」みたいなことを言っていたらスリッパで殴りたくなると思うが、若い(自称)データサイエンティスト諸氏はそれと同じことを言ってないか落ち着いて考えてみよう。
0
152
551
@Idesan
Tsuyoshi Ide (井手 剛)
4 years
Alex Smola 大先生率いるAmazonのグループの書いた Deep Learning の本はかなりいいと思う。式をある程度ちゃんと書いているから曖昧性が低いし、原論文へのリンクもあるし、Pythonコードもついている。 Zhang et al., "Dive into Deep Learning," 2020.
0
104
560
@Idesan
Tsuyoshi Ide (井手 剛)
3 years
小室さんも優秀だと思うけど、雅子さんの優秀さはもう異次元。11年生(高2)から米国の進学校に入っていきなり最優秀、英語のみならずドイツ語でも表彰を受け、ハーバードでは数理経済学専攻を優等で卒業。ちょっと想像できないレベル。
6
67
522
@Idesan
Tsuyoshi Ide (井手 剛)
4 years
本日付けWall Street Journaの記事によれば、マスク装着は感染防止に大変重要で、よくフィットした2層木綿の手作り布マスクが、工事用とかのコーン型マスクより優秀、との研究結果。2層木綿の布マスクってアベノマスクのことじゃ?
Tweet media one
3
227
492
@Idesan
Tsuyoshi Ide (井手 剛)
6 years
手作業で列挙したIf-thenルールを集めることで専門家の知的判断を再現するAIシステム(「エキスパートシステム」)を作る、という方針はほぼ確実に失敗する。これはAIの冬の時代まで得られた最大の研究成果���ひとつ。いわば人工知能の基本定理。
1
192
480
@Idesan
Tsuyoshi Ide (井手 剛)
6 years
あとさ、日本にはものすごく誤解してる人多いんだけど、トップノッチな機械学習のフレッシュPhDが高額なオファーを受けてるのは本当だけど、彼らの大半は数年後には解雇されてると思うよ。ジョブセキュリティがない前提でのオファーということ。終身雇用じゃない。
1
170
460
@Idesan
Tsuyoshi Ide (井手 剛)
2 years
理系では英語は論文で書くわけですが、なぜそもそも日本語という母語で教科書なりを書きたいかと言えば、同時代および後の世代の同胞に知識を伝えるため、ということに論理的にはなると思う。だとしたら、生煮えのカタカナをごろんと投げつけても、仕事をしたことにならないと思うんだよね。
1
121
463
@Idesan
Tsuyoshi Ide (井手 剛)
4 years
時々流れてくる「ベイズの定理の理解が間違っているウキー」みたいなツイートの背景も内容も理解できてないのだが、 一応この本は歴史的な背景とかについては決定版的な感じなので、読んでおくといいと思う。
2
96
448
@Idesan
Tsuyoshi Ide (井手 剛)
4 years
小中高の数学は日本の方がずうっと進んでいる、と信じている日本人を以前よく見かけたけど、実はそんなこともない。例えば高校の微積では、第1章でイプシロン・デルタ論法が出てくる(写真)。日本では大学の解析学で習う内容。でも図を使った説明が簡潔明瞭ですばらしく、これだったら違和感はない。
Tweet media one
2
123
445
@Idesan
Tsuyoshi Ide (井手 剛)
4 months
半導体業界の覇者は時代と共に移り変わってきたが、米国での通説は、最も猛烈に働いた者が勝つ、というものだ。IntelにはIBMから多くの技術者が移ったが、IBMと比べて激務という話だった。TSMCが、超猛烈24時間連続研究開発で競争力を獲得したのは有名な話だ。
4
136
447
@Idesan
Tsuyoshi Ide (井手 剛)
1 year
標本分散の定義式は、いわゆる不偏推定量(N-1で割る)と最尤推定量(Nで割る)という2通りあり、わかりにくいと思います混乱しがちですので、初心者向けのラフな解説を書きました。 こう対比してみると、頻度派と言われる統計学者の論法の不自然さが際立つ感じがします。
1
63
418
@Idesan
Tsuyoshi Ide (井手 剛)
8 years
企業の研究所に限らないけど、新人に最もやってはいけないことは、抽象的で無駄に大きなテーマを与えて放置すること。新人が最もやってはいけないことは、防御的になるあまり上司や先輩と話さず引きこもること。この2つが重なると、浮上の確率は2割もない。
1
247
390
@Idesan
Tsuyoshi Ide (井手 剛)
6 years
米司法省、入試でアジア人の点数を割り引いていたハーバード大学の主張を支持せず。試験の点数が高い分、度胸とか人格といった主観的な評価点を下げて調整していた由。裁判はまだ係争中。
2
353
378
@Idesan
Tsuyoshi Ide (井手 剛)
3 years
ボストンでの保育園・託児所の値段の例が出ていて興味深い。月$3000ドル(30万円!)とかの数字が出てますが、NYも同じくらいですね(郊外。マンハッタン中心部のことは知らない)。医療にしても育児にしても、いかに日本政府が努力してきたかということです。
0
180
377
@Idesan
Tsuyoshi Ide (井手 剛)
3 years
IBM、ヘルス事業部の事実上の売却を発表(正確に言えば"healthcare data and analytics assets"を売却)。ヘルスケアは汎用AIの応用の代表として語られてきただけに、今回のAIブームの一時代の終わりを象徴。
2
138
375
@Idesan
Tsuyoshi Ide (井手 剛)
7 years
ランダムなお金の交換だけで不平等が発生するという面白い数値実験。動画で一目瞭然。貧富に差がある方がむしろ自然な状態に近いということ。
1
200
353
@Idesan
Tsuyoshi Ide (井手 剛)
1 year
それは別に否定しないんだけど、現状は健全ではないと思う。 画像・言語・音声の典型的問題みたいな、ベンチマークでの精度競争が世界の全て、という分野が特別だということに新世代が気付き、「実世界の一部を解ける形に切り取る」という過程の意義を理解するまでには、まだ当分かかりそう。
0
61
350
@Idesan
Tsuyoshi Ide (井手 剛)
8 years
調子こかないように自戒のため世界に恥をさらしますが、2008年にワトソン研でヒントン教授の講演をたまたま聞く機会がありましたが、何ひとつその意義が理解できませんでした。あの画像の階層的認識も、たまたまだろチューニング乙あばよ老いぼれ、くらいの勢い。
1
197
338
@Idesan
Tsuyoshi Ide (井手 剛)
3 years
アマゾンCEOのジェフ・ベソスさんの言葉は日本の組織でありがちな問題を的確に表していると思う。 "Good intentions don't work, but mechanisms do." 意訳すると、「人のやる気に頼るだけでは結局うまく行かない。個人に関係なく回る仕組みを整えることが一番大切」。
0
88
327
@Idesan
Tsuyoshi Ide (井手 剛)
2 years
言語・画像・音声で大成功した深層学習が、それ以外のデータだとどうもうまく行かないという別の例。これは時系列予測。予測精度においては古典手法と大差ないのに、計算時間は千倍以上に。 この手の結果は、実業務でデータ解析に携わる人ならよく知っていることと思う。
1
76
322
@Idesan
Tsuyoshi Ide (井手 剛)
4 years
研究成果を外のお客様に売り歩いた営業経験と、人件費含むグループの予算管理をした経験があれば、自分の興味に従って基礎研究をできるという職業が、いかに幸せで、多くの人の血みどろの努力で支えられているかわかるよ。
0
73
306
@Idesan
Tsuyoshi Ide (井手 剛)
7 years
情報系が主ですが、日本で、最優秀の学生が伝統的大企業に入らなくなったのは大変よいことだと思います。優れた才能に相応の処遇をするのは活力ある社会への第一歩で、それを通して、「ろくに働かない年功序列オヤジに年俸一千万円も払う必要、なくね?」という気づきも得られるんじゃないでしょうか。
0
171
282
@Idesan
Tsuyoshi Ide (井手 剛)
8 years
アメリカでよく目にするのは、天才が天才らしく結果を出す姿より、むしろ、才能という観点ではあまり素晴らしくないかもしれない人が必死に頑張って結果を出す姿。感銘を受けるのはむしろ後者。アメリカに住むインテリ層は、信じられないほどハードワーカー。
1
102
272
@Idesan
Tsuyoshi Ide (井手 剛)
5 years
論文というものは、「どうだ、難しいだろう」と言い放つ感じじゃなくて、「ほら、こんなに簡単でしょ?」とほほえむ感じで書きたいものです。
1
26
273
@Idesan
Tsuyoshi Ide (井手 剛)
4 years
子どもの頃は、ラジオ体操というのは、特に腕を上げ下げする系のやつとか、なんて意味のない運動なんだろうと思っていたが、ジジイになってくると肩の関節を回すことの重要性が分かる。ありゃ子供のためじゃなくて、中年以上のための体操だな。
4
106
280
@Idesan
Tsuyoshi Ide (井手 剛)
7 years
昨日のツイートに反響が大きかったので誤解なきよう念のため。計算機科学系で言えばACMとかIEEEとかSIAMとかのまともな国際会議に論文を出せてるような人は、日本で学位を取ったとしても、世界中どこでも働けるよ。永住権だって問題なし。皆さんは自由。その自由をもっと活かそう。
0
211
258
@Idesan
Tsuyoshi Ide (井手 剛)
2 years
タスクの標準化とデータの網羅性が保証されている分野としては、言語・画像・音声の3つが代表的。これらの分野の主要問題が、現代の深層学習モデルによりほぼ「征服」されたと考えるのは正しい。しかし問題は、この世界は標準化などされていないということ。
0
99
263
@Idesan
Tsuyoshi Ide (井手 剛)
6 years
あのなー、ビッグデータで未来予測がそんなに簡単にできるなら、誰だって速攻で株価を予測して億万長者になれるはずだけど、そうなってないよね。ってことは、そういうことなんだよ。非常にラッキーな一部の状況を除き、未来の予測は基本的に無理だと想定してほしい。
2
101
259
@Idesan
Tsuyoshi Ide (井手 剛)
3 years
某(日本じゃない)大学向けに使った異常検知についての大学院生向けの講義スライドを下記に置きました。最小1時間、式の展開とか詳細までやると数時間。何かコメントありましたらお知らせくださいませ。
0
43
261
@Idesan
Tsuyoshi Ide (井手 剛)
16 days
前から思ってたのだが、VAE (variational autoencoder) の解説にはよくわかないものが多い。原論文がよくわからないので仕方がないが。ビショップ本の12章に書いてある通り(実は訳本でこの章を訳したのおれ)、対数周辺化尤度を最大化するという問題がまずある。(続く)
4
22
260
@Idesan
Tsuyoshi Ide (井手 剛)
7 years
しかしSTEM(理系)の博士号とか、医者とか会計士とか弁護士とかの高級資格を持ってるんじゃなければ、日本の方が世界のどこの国より圧倒的に暮らしやすいと思うんだよね。アメリカは・イギリスは・etc.は○○だから日本死ね、とか考えてしまうのは本当に残念なこと。
0
197
246
@Idesan
Tsuyoshi Ide (井手 剛)
5 years
ICML 2019の Top contributing last authorsで杉山さんは第4位に入ってるんですね。AI研究における理研AIPの生産性の高さは、国際的に誇っていいんじゃないでしょうか。
0
87
256
@Idesan
Tsuyoshi Ide (井手 剛)
8 months
とても的確な表現。言語がハックできても、たとえば自分がいつ病気になるかとかは予測できない。生成AIでビジネスを変革、みたいな話の多くは、ビジネスの意思決定に必要な情報の大半は言語化されていない(される見込みもほとんどない)という事実を見落としている。
@sammy_suyama
須山敦志 Suyama Atsushi
9 months
>今のWebのデータに基づく生成AIは、「⁠言葉を理解する能力」と「世界についての知識」がごっちゃになって、それに人々が振り回されています。 研究視点から鳴らす今の生成AIブームへの警鐘――日本IBM主席研究員金山博氏が危惧する知の消費と「人らしさ」の重要性 #gihyojp
0
63
273
1
64
237
@Idesan
Tsuyoshi Ide (井手 剛)
4 years
NYでは機械学習で被疑者の保釈を決めている。関係者におおむね好評らしい。電話番号をちゃんと書いたやつはだいたい逃亡せずちゃんと裁判に顔を出すらしい。 本日付Wall Street Journal
Tweet media one
1
70
227
@Idesan
Tsuyoshi Ide (井手 剛)
4 years
自分の本が紹介されているから言うわけでもないが、ここで書かれていることはおおむね正しいと思う。この手の記事の大半はイキって���る中坊のポエムみたいなのが多く読むに堪えないものだが、これはちゃんとしていると思う。
0
51
228
@Idesan
Tsuyoshi Ide (井手 剛)
3 months
天気予報でLassoが使われたんですか? 本当ならややびっくり。L1正則化項って2乗誤差との間で物理的次元の一貫性を破るので、前処理が手間でガチ物理計算には使いにくいんだよね。L1が絡む算法でエンドユーザーからの苦情の多くはそれに由来する。
3
26
224
@Idesan
Tsuyoshi Ide (井手 剛)
6 years
今高額のオファーをもらうのは、深層学習系の論文をトップ会議に持っているようなPhDだと思うけど、よく考えてほしいんだが、TensorFlowなりの使い方に習熟してるということと、深層学習の論文を書けることと、ビジネス上の価値を生み出せる、というのはそれぞれ別の次元の話。
0
76
217
@Idesan
Tsuyoshi Ide (井手 剛)
3 years
講談社の方に岡谷先生の『深層学習』の改訂第2版を送っていただきました。深層学習は進��が速く、最新の横断的な知識をどう得るか困っている人も多いと思いますが、現時点で、おそらく世界で最もバランスのとれたまとめになっていると思います。英語の本を買う必要なし。
Tweet media one
1
37
217
@Idesan
Tsuyoshi Ide (井手 剛)
5 years
庶民のために解説しておくと、大学受験くらいまでは、基礎は簡単、応用は難しい、という定義だと思うが、大学院?くらいで逆転が起こり、基礎論というと修行僧みたいに研究に打ち込む純研究者という感じで、応用やってます、というとチャラチャラしててどうもすみませんと(謙遜半分)あやまる感じ。
1
66
216
@Idesan
Tsuyoshi Ide (井手 剛)
3 years
説明可能なAI(XAI)の研究について、前にも書いたけど、AI応用を助けることを目標にすべき。産業応用上は、説明可能性はアクション可能性のこと。つまり人間の次の対処策につながる情報を与えること。今のXAI研究の主流派は、人間の主観的満足を重視しているようで不思議。
0
30
222
@Idesan
Tsuyoshi Ide (井手 剛)
7 years
グラフの中心性についての単著論文をICDMに通していたShogo Muraiさん、見かけない名前だったので、分野違いの老数学者がたまたま投稿したんだろうと思ってたら、なんと、卒論を投稿した修士1年の学生だったという。すげー。
0
96
219
@Idesan
Tsuyoshi Ide (井手 剛)
4 years
「看護婦さん、このお金は誰が払うことになっているんでしょうか」、とお金の心配をしながらアメリカの重症患者は死んでゆく。病院に気軽に行ける日本はすばらしい。
@CNN
CNN
4 years
A nurse revealed the last words of his coronavirus patient: "Who's going to pay for it?"
Tweet media one
1K
3K
11K
0
100
216
@Idesan
Tsuyoshi Ide (井手 剛)
4 years
ウィルスは消滅させることはできず、人間がいる限り永遠に生き続ける。だから結局は何かの形で皆が感染せざるを得ないが、社会的混乱が生じるような速度でそれが生じることは止めなければならない。それを先進国で最もうまくやったのが日本なんだから、自信を持って方針をより固め、世界に発信すべき。
3
78
214
@Idesan
Tsuyoshi Ide (井手 剛)
2 years
米国の(まともな大学に入りたい)高校生が勉強する統計学の教科書は、天下りの仮説検定の話が中心で、読むのが苦痛。で、いろいろ探していたところ、この杉山さんの本の前半は、粒度が適切で、教科書としては非常にいいかも知れない。講談社の日本語版もほぼ範囲は同じ。
2
29
215
@Idesan
Tsuyoshi Ide (井手 剛)
2 years
「文献から網羅的に知見を取り込んで最強頭脳を作ったら何でも予測できるはず」という類の期待は(「古典的エキスパートシステム構築問題」と呼びたい)、高度に標準化されたタスクと系統的に集められた大量のデータが存在する分野を除き、一般には実現困難。その常識が再確認されたということ。
1
108
211
@Idesan
Tsuyoshi Ide (井手 剛)
5 years
渡辺先生のスライドにある「主義」の相克の歴史は、統計学の巨匠の手によるこの本 に詳しい。頻度派、ベイズ派、フィッシャー派の戦いを前史として、ブートストラップなど計算機を駆使する新手法、そして今世紀の深層学習の登場まで(和訳が近々出る、はず)。
0
58
206
@Idesan
Tsuyoshi Ide (井手 剛)
4 years
これはすばらしい。全世界の量子力学の初学者は読むべき。
0
50
209
@Idesan
Tsuyoshi Ide (井手 剛)
5 years
東北大数学科の学生向けQ&AのQ1、すんげーわかりやすい。
1
87
203
@Idesan
Tsuyoshi Ide (井手 剛)
4 years
先日発売された『大規模計算時代の統計推論』の18章は深層学習ですが、日本語の訳語を定着させるべく、いくつか提案をしています。 batch → 束 epoch → 世代 flat spot → 横ばい領域 bottleneck → くびれ部 pooling → まとめ込み dropout → 節点間引き など。
3
86
196
@Idesan
Tsuyoshi Ide (井手 剛)
8 years
表で「これ、すぐお金になります」と言いながらがっつり研究費をもらい、裏で実装とか応用研究に加えて基礎研究をやるのは、IBMだと普通のことだよ。大人の言葉ではそれを「研究ポートフォリオ」といいます。
0
154
193
@Idesan
Tsuyoshi Ide (井手 剛)
2 years
NYにも熱波が到来。そして絵に描いたように、家の冷房に取り付けたAI温度調整器が壊れた(Google Nest Thermostat)。$200もするくせに内蔵電池の不具合で起動しないとか、壊れ方がダサい。何が何でも全力で交換を避けようとする意固地なサポートも残念。かつての太っ腹はもうないってことだな。
2
63
187
@Idesan
Tsuyoshi Ide (井手 剛)
2 years
ブラックボックスなAIはいかんということで作られた「AIを説明可能にするツールキット」がブラックボックスだから、それを説明するツールを作ろうみたいな無間地獄が発生しているのを目撃。 それって結局何の問題も解けてないってことじゃね?
0
40
188
@Idesan
Tsuyoshi Ide (井手 剛)
4 years
おれが最初に熟読した統計学の本は『情報量統計学』という本なんだけど、思えばこの選択は圧倒的幸運だった。ああ統計学とか統計的学習理論って一種の熱力学なのね、と、俯瞰的な視野を与えてくれた。ベイズ派vs頻度派の政治闘争とは全く別の、素朴に美しい世界。
1
35
191
@Idesan
Tsuyoshi Ide (井手 剛)
3 years
「若いときに英語(外国語)を勉強しておけ」と説教する大人を信じるな、というのがおれの持論(必要だと思うなら言い訳せずに今すぐ自分で始めなさい、の意味)。データ上でも、学習時間当たりの効果は20代から50代までの現役世代ではほぼ違いはないらしい。
4
33
188
@Idesan
Tsuyoshi Ide (井手 剛)
7 years
おれ、むかし物理を勉強して挫折した人なんだけど、物理勉強して一番すごいって思ったことは、世界が確率でできてるってこと。確率は後付けの人為的な何かじゃなくて、実在。量子力学はそうなってる。
0
71
182
@Idesan
Tsuyoshi Ide (井手 剛)
6 years
ちょっと考えたら、PhD取ったばかりの若造の給料と、お客様のビジネス課題を分析して適切な業務改善提案ができる経験豊富なコンサルタントの給料が同程度、という状況が持続可能ではないのは分かるはず。ま、バブルだね。
0
60
184
@Idesan
Tsuyoshi Ide (井手 剛)
3 years
テスラ車内にタグ付け職人が1000人! 「テスラではデータの分類に1,000人が従事しており、乗用車やトラック、道路標識、路面表示などの画像にタグ付けし、巨大なニューラルネットワークの訓練に活用しているという。」
2
58
177
@Idesan
Tsuyoshi Ide (井手 剛)
3 years
おれはもう運営に関与してないので今はどうなっているか知らないが、日本の機械学習の中心的コミュニティであるIBISでは、空気を読まない議論の伝説がいろいろあった。 1/n
1
40
169
@Idesan
Tsuyoshi Ide (井手 剛)
6 years
今喧伝されているAI系の活動の中には、かつて我々が経験した失敗パターンをなぞっているものもかなりあるように見える。素朴に「実世界のビジネス上の問題を解決しているか?」という問いかけは、いつの時代でも本質的なので、忘れないようにしたい。
0
45
168
@Idesan
Tsuyoshi Ide (井手 剛)
4 years
伝統的日本企業で、なぜ博士より、無知で無垢な若者の方が好まれるのか。それは年功序列の社内身分制度を前提にしているから。新入り<先輩、という不等式が成り立たないと秩序が乱れる。この不等式は、ビジネス上の市場価値とは無関係で、会社の村社会の秩序だけから来ている。それが問題。
3
48
171
@Idesan
Tsuyoshi Ide (井手 剛)
5 years
機械学習エンジニアを目指して勉強している人は、アルゴリズムそれ自体、ITシステム基盤、そしてビジネス上での実問題、という3つの分野の、2つくらいに差別化できる知識を持っている(持てそうだ)と感じられれば、AIブームの後も特に心配する必要はないと思う。
0
48
167
@Idesan
Tsuyoshi Ide (井手 剛)
6 years
杉山さんのインタビュー。すばらしい。機械学習に関する日本語の記事でストレスを感じなかったのは久しぶりだ。なお、たぶん、「確率密度推定」 →「密度比推定」。
0
38
167
@Idesan
Tsuyoshi Ide (井手 剛)
5 years
下記補足。武漢では初期に病院があふれ医療崩壊状態になったと報じられたが、(補正された)致死率でみると、武漢を逃れた帰任者(したがって十分な医療を受けた患者)との間に差は見られなかった、ということ。これは政策決定上重要な指摘。継続してデータをモニタリングする必要あり。
@Idesan
Tsuyoshi Ide (井手 剛)
5 years
”However surprisingly, although health-care availability in Wuhan was stretched, our estimates from international cases are of a similar magnitude, suggesting relatively little difference in health outcome."
0
1
2
0
48
159
@Idesan
Tsuyoshi Ide (井手 剛)
3 years
ディープな人たちの一部で流行するOut-of-distribution detection つうのはいにしえの異常検知・変化検知・コンセプトドリフト・共変量シフト etc. と同じだと思うのだが、まあそれはいいとして、マハラノビス距離がState-of-the-artです、という話になっているのには笑った。
0
29
165
@Idesan
Tsuyoshi Ide (井手 剛)
8 years
大学では基礎研究が奨励されるべきだけど、大学の先生(の一部)は、院生時代の2-3年で手際よく結果を出す学生を求めているかのようで、逆に、厳しい投資回収圧力の下応用研究をする企業の研究所の方が、長期的な観点で創造性を重視した採用をする傾向にあるというのは面白い。
0
94
153
@Idesan
Tsuyoshi Ide (井手 剛)
7 years
思えば博士課程の最後の年、就職活動してるとき、博士学生へのあまりの冷たい仕打ちに、真剣に学歴逆詐称しようと思った。修士出てからちょっとインドに自分探しの旅に出かけてました、みたいな。
0
53
152
@Idesan
Tsuyoshi Ide (井手 剛)
8 years
自慢じゃないがおれは修士の時は1本の論文も書いてない。論文を書くってことは人類の歴史をわずかでも進めるってことだけど、たかが1年やそこらでそれができたとしたら、天才か、他人の作った問題を解いたか、のどっちかだと思う。後者は置かれた環境とか運が半分以上だわな。
0
74
155
@Idesan
Tsuyoshi Ide (井手 剛)
7 years
クビにしにくい人というのは、やはり名前の立った専門家。結局、幸せになれるのは、「オレを雇わなければよそに行くけど?ん?」みたいに言える人だけだと思う。ま、アメリカ教信者みたいな人はMっぽく殉教者の苦しさを楽しむのもいいだろうけど、どうせならドS系で行きたいよね。
0
96
151
@Idesan
Tsuyoshi Ide (井手 剛)
5 months
OpenAI が Google に対抗する検索エンジンをもうすぐ公開するっぽい。特に Google に限らず Facebook なども大手テックは軒並み、特定の政治的正しさの基準を妄信しているかのごとしで、危うく思う向きも多かったと思う。興味深い動き。
0
37
154
@Idesan
Tsuyoshi Ide (井手 剛)
6 years
2000年前後に起こったドットコム・バブルというのは、eコマースについての夢想的な期待が引き起こしたもの。結局、実世界の財の動きに影響を及ぼさない企業は淘汰され、生き残った企業の多くは、amazonやeBayなど、要するに古典的な商売をIT技術でレバレッジできた企業。
0
68
148
@Idesan
Tsuyoshi Ide (井手 剛)
3 years
NeurIPS 21の論文リストが公開されているようなので、自分の論文を紹介。プレゼン資料はここ 異常検知系の仕事をされている人なら、センサー値のような連続的に得られるデータは何とかするにしても、不定期に発生するイベントのデータの扱いに困ることはよくあると思います
1
27
152
@Idesan
Tsuyoshi Ide (井手 剛)
3 months
なんか昔のエキスパートシステムみたいな話を最近よく聞くのだが、大丈夫なのか。大規模言語モデルは我々の常識を効率よく取り込むことに成功しているが、個別の、価値の高い意思決定に必要な知識については、いにしえの「知識獲得のボトルネック」の呪いを越えられていないはずだが。
1
41
147
@Idesan
Tsuyoshi Ide (井手 剛)
6 years
補足。なんで異常検知の設定ではPrecision/RecallがダメでSensitivity/Specificityがよいかというと、前者では、異常標本側で話をしているのか正常標本側を見てるのか曖昧だという点。そもそも二値分類は正例負例が平等に扱われる建前なので、異常検知と枠組みが違う。
0
21
145
@Idesan
Tsuyoshi Ide (井手 剛)
1 year
深層学習やらの上位パラメターの最適化に使われるいわゆるブラックボックス最適化では、超一様分布列が使われたりするんですね(知らなかった)。エンジニアリング的工夫の山といえばそうだけど、ひとつひとつの技の選択にセンスの良さを感じる。すばらしい。
1
19
146
@Idesan
Tsuyoshi Ide (井手 剛)
3 years
追加。学会に出るということは、自分の成果を世に問うことだから、単刀直入な質問を甘受すべきというのがおれの考え。ただそれは、そこに行く以前の若者の気持ちに特別な配慮が必要という事実と矛盾してない。この本は読む価値があると思う。
1
41
142