門脇 敦司/ Atsushi Profile Banner
門脇 敦司/ Atsushi Profile
門脇 敦司/ Atsushi

@at_sushi_

1,927
Followers
348
Following
1,416
Media
3,371
Statuses

Knowledge Sense, Inc. CEO ← 東大 / エンタープライズ向け生成AIプロダクトで成長中のスタートアップ(2019年~) / ソフトウェアエンジニアを募集中(800万円~+SO)→DM開放中 / 好きな言葉は「実験と学習」/ 最新の生成AI 事情に少し詳しいです / ソフトウェアエンジニア

Langton's ant
Joined March 2016
Don't wanna be here? Send us removal request.
Pinned Tweet
@at_sushi_
門脇 敦司/ Atsushi
2 years
1/ GitHub 元CTO「マイクロサービスにしたことがアーキテクチャ上の最大のミスだった」 (※少しマニアックな内容ですが、個人的には面白いと感じたので載せます→)
@jasoncwarner
Jason Warner
2 years
I'm convinced that one of the biggest architectural mistakes of the past decade was going full microservice On a spectrum of monolith to microservices, I suggest the following: Monolith > apps > services > microservices So, some thoughts
219
1K
7K
3
462
2K
@at_sushi_
門脇 敦司/ Atsushi
2 years
1/ Meta、エンジニアリングマネージャーに「ものづくりに戻るか、辞めるかにしろ」と伝えているらしい(続く→
Tweet media one
1
226
944
@at_sushi_
門脇 敦司/ Atsushi
2 years
iOS 16.4 から、WebアプリでもiPhoneに通知を送れるようになる。 (アパレル業界など、)通知を送るためだけに作られたモバイルアプリも多い印象なので、その制作コストが無くなりそう。
Tweet media one
1
95
795
@at_sushi_
門脇 敦司/ Atsushi
1 year
1/ マイクロソフトの研究者が「GPT-4V」で色々な入力を試した論文 「どのような画像を読み取れるのか」「どの分野に応用できるか」など。図表が多くわかりやすいです。 かなり長い(166ページ)ですが、目次と要約を載せます。気になった部分だけでも(続く→)
Tweet media one
4
124
712
@at_sushi_
門脇 敦司/ Atsushi
2 years
1/ 「GitHub、10%をレイオフ。全てのオフィスを閉鎖」 このニュースに対して、 「フルリモートの方が社員を解雇しやすい。」 「5年後は、エンジニアはクラウドサーバーのように都合よく使われる存在。」 と議論が白熱しています(続く→
Tweet media one
1
220
644
@at_sushi_
門脇 敦司/ Atsushi
3 months
RAGの記事を書きました。Amazonの研究者が発表した「REAPER」というRAG手法について。内容は、「Chain of Thought は遅い。LLMに『計画』を立てさせて、高速化しよう」というコンセプトです。ECサイトのチャットボットでRAGを使う場合にも有効な手法です。
1
61
495
@at_sushi_
門脇 敦司/ Atsushi
2 months
RAGの新しい記事。通常のRAGでは「ベクトル検索」を使っていますが、その「ベクトル検索」にも実は、弱みがあります。例えばベクトル検索は、専門用語に弱いです。こうした弱みを「GraphRAG」を使って補い、回答精度を上げよう!というのが、今回紹介する「HybridRAG」です↓
1
56
441
@at_sushi_
門脇 敦司/ Atsushi
2 months
RAGの新記事を出しました。RAGを、専門用語に強くするための工夫です。弊社では普段から、多くの企業にRAGサービスを提供しています。そこでよくある問題は、「社内用語のせいで、回答精度が落ちる」ということです。 この記事では、この問題を解決する手法を紹介します
0
54
423
@at_sushi_
門脇 敦司/ Atsushi
2 months
RAGの記事を書きました。RAGで一番難しい「ドキュメント検索」の部分について、新しい手法の紹介です。この手法を使うことで、専門分野での検索精度が全体的に底上げされます。正直、少し上級者向けの内容ですが、一読の価値はあります!
1
44
402
@at_sushi_
門脇 敦司/ Atsushi
1 month
RAGの記事を書きました。内容は「チャンキング」について。RAGを始めた人なら、ここに課題を感じたことがあるはず。「MoGG」という新しい手法が役立つのは、特に大企業の社内文書のように、「脚注」や「用語集」が膨大な場合。チャンク分割とグラフ構造を使う手法です。
1
45
386
@at_sushi_
門脇 敦司/ Atsushi
3 months
RAGの新しい記事を出しました。Google DeepMindの研究者らが出した、RAG関連の論文です。この「Speculative RAG」の面白い点は、「3人よれば文殊の知恵」をRAGで実装している点だと思います↓
0
49
362
@at_sushi_
門脇 敦司/ Atsushi
7 months
最近見かけるようになった「CRAG」という手法について軽めの記事を書きました。
0
42
344
@at_sushi_
門脇 敦司/ Atsushi
6 months
新しいRAGの手法「Adaptive-RAG」について、記事を書きました。普通に実務でも使えます。
1
24
340
@at_sushi_
門脇 敦司/ Atsushi
6 months
RAGの精度評価ツール「RAGAS」について書きました。 ツールは有名ですが、論文があるのは意外と知られていなさそうです。
0
45
321
@at_sushi_
門脇 敦司/ Atsushi
7 months
LLMのハルシネーションを減らせる「Self-RAG」という手法について、軽めの記事を出しました。
0
33
313
@at_sushi_
門脇 敦司/ Atsushi
1 year
CEO サム氏が話す、ChatGPT 開発ロードマップ 2023年 ・より早く安いGPT-4 ・コンテキストの増加(1Mも見えている) ・Finetuning API ・ステートフルなAPI(!) 2024年 ・マルチモーダル その他、ポジショントーク少なめで納得的でした(続く→)
Tweet media one
3
64
309
@at_sushi_
門脇 敦司/ Atsushi
5 months
RAGに関する新記事を出しました。HippoRAGです
0
45
302
@at_sushi_
門脇 敦司/ Atsushi
5 months
RAGの新記事を書きました。 関連ドキュメントを1トークンに圧縮してLLMに渡す「xRAG」について
0
35
298
@at_sushi_
門脇 敦司/ Atsushi
8 months
RAGについての記事(続編)を書きました。今回はかなりエンジニア向けの記事で、「RAGを改善する際に抑えておきたい観点」が、ある程度網羅的にまとまっている記事を目指しました。
1
35
295
@at_sushi_
門脇 敦司/ Atsushi
4 months
RAGについての記事を出しました。今回面白い点は、ファインチューニングと同等の性能を引き出すための工夫です。まずは事前に「回答例」を大量生成しておき、ユーザーから質問が来た際には、その回答例(の一部)を参考にして、回答するというRAGの工夫です。
0
35
282
@at_sushi_
門脇 敦司/ Atsushi
18 days
RAGの新しい記事。RAGでよく聞かれるのは、「参考ソースとしてLLMに渡す内容が、間違っていたら、どうなりますか?」という質問。結論、この場合、ハルシネーションを起こす可能性が高いです。このような「RAG、外部ソースに頼りすぎ問題」を解決する手法を紹介します↓
0
30
258
@at_sushi_
門脇 敦司/ Atsushi
4 months
OpenAI、コードのバグを見つけるモデル「CriticGPT」を発表。なぜこれを作るか。それは、「GPTを進化させるには人間がAIに教える必要があるが、逆に言うとAIのクオリティが評価者のクオリティに左右されてしまう」という問題があるから。人間の評価の品質を底上げしてさらにコーディングが得意なGPTを
Tweet media one
1
47
247
@at_sushi_
門脇 敦司/ Atsushi
2 years
1/ Twitterが「おすすめ」タブのアルゴリズムをオープンソース化しました 興味深い点を書いていきます(続く→
Tweet media one
1
78
237
@at_sushi_
門脇 敦司/ Atsushi
3 years
神社にPayPayの営業したの誰やww
Tweet media one
3
38
223
@at_sushi_
門脇 敦司/ Atsushi
3 months
RAG関連のテックブログが出ました。「PDFのスクショを使ってRAGしよう」というコンセプトの手法。最近この分野ホットです。以前、自分もDSEという手法を紹介しました。個人的にこの手法に可能性を感じている理由は、大企業に存在する大量の「OCRしてないPDFデータ」を活用できる可能性があるからです。
@sasa_kuna_
Hidetoshi Sudoh
3 months
テキスト抽出をせずに画像のままRAGを実現できるColPaliについて簡単に紹介しています。 特にPDFなどのテキスト抽出が難しい文書データに対して、DBへの登録スピードと精度面で大きなメリットを享受できます。 #zenn
2
34
339
1
24
231
@at_sushi_
門脇 敦司/ Atsushi
8 months
RAGについての記事を書きました。今回は「テクニック集」と言いながら、RAGの概要説明にとどまっています。「非エンジニアの方にRAGを説明するときに役立つ記事」を目指しました。
1
25
208
@at_sushi_
門脇 敦司/ Atsushi
3 years
イーロン氏が社員に送ったメール 「私から明確な指示があったら、①反論するか、②意図を確認するか、③実行しろ。それ以外はクビだ。」
@TechEmails
Internal Tech Emails
3 years
Elon Musk emails Tesla employees October 4, 2021
Tweet media one
386
2K
21K
0
56
203
@at_sushi_
門脇 敦司/ Atsushi
1 year
OpenAIのCEOサム氏 「98%の人は、あなたに控えめになるように言ってくる。大切なのは、自分がもっと野心的になれるようにしれくれる人を周りに作ること」
1
50
194
@at_sushi_
門脇 敦司/ Atsushi
4 months
RAGの新記事を出しました。Document Screenshot Embedding (DSE) です。
0
21
169
@at_sushi_
門脇 敦司/ Atsushi
2 years
1/ ジョン・カーマック氏がMetaを退任するとのこと。 「我々はかなり正しいものを立ち上げたと思うが、問題は効率が悪いこと。」とメモを残したらしい。 (続き→)
Tweet media one
1
66
148
@at_sushi_
門脇 敦司/ Atsushi
2 years
3/ 今回の動きは、社内では「フラット化」と呼ばれていて、コードを書くか、デザインするか、リサーチするか... とにかく「他人の面倒を見る」以外のことをするよう、要求されるようになる
1
41
144
@at_sushi_
門脇 敦司/ Atsushi
7 months
RAGの、複雑な質問に対する回答性能を上げる「Chain-of-Abstraction (CoA) Reasoning」という手法について、記事を書きました。
0
11
145
@at_sushi_
門脇 敦司/ Atsushi
2 months
マイクロソフト、「Phi-3.5-MoE」をリリース。オープンモデルで最高性能。GPT-4o mini にも肉迫。128Kコンテキスト(GPT-4o と同じ)、日本語もサポート。
Tweet media one
Tweet media two
0
22
137
@at_sushi_
門脇 敦司/ Atsushi
2 years
6/ AppleでEMをしているKarthik 氏も共感の声 ・これは当然で、他のテック企業でも同じことが起こる。 ・フラットな組織が復活するにつれ、EMは個人のコントリビューターの役割に切り替わる必要が出てくる。 ・人材管理だけするEMは、ゼロ金利の時代だけの存在かも。
@hkarthik
Karthik Hariharan
2 years
This is not a surprising outcome, and one that we'll likely see throughout tech. Eng Managers will need to be more hands on, or switch to IC roles as flat orgs make a comeback. People management focused EMs may have been a zero interest rate phenomenon.
25
49
620
1
26
130
@at_sushi_
門脇 敦司/ Atsushi
6 months
オカルトだと思ってましたが、「gpt2-chatbot」、明らかにGPT-4より高性能ですね。 ←GPT-4(誤答) gpt2-chatbot(正答)→
Tweet media one
Tweet media two
2
9
130
@at_sushi_
門脇 敦司/ Atsushi
2 years
Apple、「銀行」をリリース ・預けておくと年利4.15%還元(他の銀行の10倍) ・手数料、最低残高など無し ・スマホから口座開設 ・他の銀行からも入金できる 銀行業者にとってだけでなく、あらゆる金融事業者にとって脅威ですね
Tweet media one
1
25
106
@at_sushi_
門脇 敦司/ Atsushi
2 years
3/ まず、アーキテクチャは考え方であって、ルールではありません。 大規模な分散システムを構築したことがある人は知っていると思いますが、実際には完璧に機能するものなど無く、うまくやる必要があります。 また、ステージが重要です。5-50人の会社であれば、モノリス一択です。信じてください。
1
19
106
@at_sushi_
門脇 敦司/ Atsushi
2 years
ChatGPT の脱獄コマンドが集められたサイト
Tweet media one
1
11
100
@at_sushi_
門脇 敦司/ Atsushi
2 years
5/ 実際、「1,2人を監督するだけのマネージャー」や「同じ目標を掲げて競争する別チーム」が存在してしまっていたようで、社内でも変革が必要だと声も上がっていたらしい
1
20
97
@at_sushi_
門脇 敦司/ Atsushi
2 years
15/ だから、基本的に以下を推奨します 1. できるだけ長くmonolithでいること 2. services化はインフラ側の要求があったときのみにして、アプリ側の要望では作らないこと 3. monolithから脱却する場合、大きめのappに分解すること 4. 新しいappが生まれるごとに、見えない壁ができると考えること
1
36
97
@at_sushi_
門脇 敦司/ Atsushi
2 years
3/ は無いです。 なので、5年後には、大企業のフルリモート求人を見て『社員を大切にしている会社だな』と思うのではなく、『社員をクラウドサーバーのように、簡単にスケールアップできて、必要がなくなった瞬間に簡単にシャットダウンできる存在と捉えているんだな」と考えるようになるでしょう。
1
32
95
@at_sushi_
門脇 敦司/ Atsushi
2 years
20/ そして、最後にもう一度。 Monolith > apps > services > microservices スケールのための基本手法: なるべく長く一つの大きな塊であれ。細かい過剰な修正はせず、成長に合わせ(たとえ急成長中でも)乗り越える。これは、組織と技術、両方のためです。 繰り返しですが、これは「art」です。
0
26
92
@at_sushi_
門脇 敦司/ Atsushi
2 years
1/ ジョン・カーマック氏がMetaを退任する際の社内文章が、本人から公開されていました。 「10年続けたVR開発を、終わりにしようと思います。」
@at_sushi_
門脇 敦司/ Atsushi
2 years
1/ ジョン・カーマック氏がMetaを退任するとのこと。 「我々はかなり正しいものを立ち上げたと思うが、問題は効率が悪いこと。」とメモを残したらしい。 (続き→)
Tweet media one
1
66
148
1
72
87
@at_sushi_
門脇 敦司/ Atsushi
2 years
9/ D.私の考えでは、オーダーメイドのインフラやマイクロサービスほど、技術負債になるものはありません。コードは負債ですが、サービスはもっと負債です。これを理解した上で、どうしても負債を作るなら、nice to haveではなく、最高にレバレッジが効くときにだけ、にするべきです。
1
14
75
@at_sushi_
門脇 敦司/ Atsushi
2 years
2/ Meta の「生産性の低さ」は、辞任したカーマック氏によっても指摘されていた
@at_sushi_
門脇 敦司/ Atsushi
2 years
1/ ジョン・カーマック氏がMetaを退任するとのこと。 「我々はかなり正しいものを立ち上げたと思うが、問題は効率が悪いこと。」とメモを残したらしい。 (続き→)
Tweet media one
1
66
148
1
12
71
@at_sushi_
門脇 敦司/ Atsushi
2 years
2/ 議論の発端となったのは、おそらくこの投稿↓ (あるエンジニア)「フルリモートに移行すると、レイオフ簡単になります。90年代に半導体メーカーでレイオフを経験しましたが、解雇した人を物理オフィスから追い出すには、警備など多額のコストがかかり大変でした。リモートではこのコスト(続く→
1
25
69
@at_sushi_
門脇 敦司/ Atsushi
2 years
Uber のクルー向けアプリが変更され、自分の近くの案件を「自分から取る」ことができるようになるとのこと。事故らないか心配。
Tweet media one
0
24
65
@at_sushi_
門脇 敦司/ Atsushi
2 years
18/ 世界中の90%の企業は、プライマリDBに対してDBのバックアップ、キャッシュ、プロキシを実行するモノリスで済ませるられると思っています。 惑星規模にどデカい10%の企業にとっては、この問題を解決するのは「art」の領域です。
1
13
68
@at_sushi_
門脇 敦司/ Atsushi
5 months
GPT-4oに自宅のカメラをつなぎこみ、どこにあるか忘れたものを探してもらうというデモ
Tweet media one
Tweet media two
@Shpigford
Josh Pigford
5 months
Genius. A Home Assistant user hooked up GPT-4 Vision with their security cameras and now can do things like find items in their home.
Tweet media one
Tweet media two
111
622
6K
0
8
67
@at_sushi_
門脇 敦司/ Atsushi
2 years
2/ アーキテクチャの過去10年間における最大のミスの1つとして、完全にマイクロサービス化してしまったことがあります。 モノリスからマイクロサービスのオススメ度合いでいうと以下です。 Monolith > apps > services > microservices どういうことか説明します→
1
13
66
@at_sushi_
門脇 敦司/ Atsushi
2 years
人生で始めてApple税に直面したイーロン氏、面白すぎる
Tweet media one
Tweet media two
Tweet media three
Tweet media four
1
33
60
@at_sushi_
門脇 敦司/ Atsushi
2 years
13/ 第一に、インフラは(異常に敏腕なCEOがいる会社でない限り)ほとんどの場合、優先順位が下がります。 第二に、サービスが多すぎると、所有権の問題や境界線の問題が発生する。 第三に、大量のマイクロサービスがあると、それに対処するために、さらに多くのツールを導入する必要が出てきます。
1
17
57
@at_sushi_
門脇 敦司/ Atsushi
10 months
2023年に読んだエンジニア向けおすすめ本7選 『人月の神話』はやはり名著。ビジネス職の方にもおすすめの書籍。(まとめ的な章である18章だけ読むのでも◎)
Tweet media one
2
4
57
@at_sushi_
門脇 敦司/ Atsushi
1 year
Introducing Ozone🌍 ― the best unit testing service for your LLM prompts! Use it to: - Automate your prompt testing - Track the evolution of your tests With Ozone, prompt creation becomes 10x faster! Validate your AI's output using LLMs. #ChatGPT
4
7
53
@at_sushi_
門脇 敦司/ Atsushi
2 years
9/ 👤「最初、クラウドサーバーみたいに扱うのは無理っしょ。って思っていたんだが、よく考えたらリモート人材管理のためのDocker、k8s、CI/CDみたいな存在のサービス結構出てきたなw たしかに、人材のスケールアップとシャットダウンが、より簡単になっていくのかも」
1
15
50
@at_sushi_
門脇 敦司/ Atsushi
2 years
7/ 詳しくはこちら
0
13
50
@at_sushi_
門脇 敦司/ Atsushi
2 years
ChatGPT、有料プラン開始 月額5,500円ほど。
Tweet media one
@chillzaza_
Zahid Khawaja
2 years
New ChatGPT pricing!
Tweet media one
43
188
548
1
45
49
@at_sushi_
門脇 敦司/ Atsushi
2 years
注意点。 iPhoneの「ホーム画面に追加」されたWebサイトだけが、通知を送ることができます。
0
4
46
@at_sushi_
門脇 敦司/ Atsushi
2 years
16/ 5.可能であれば、マイクロサービスではなくライブラリとして作る 「カラーサービスを導入した」という例は、私がサービスよりもライブラリを好む理由の極端な例として、よく使います。確かに極端な例ですが、典型的な例です。
1
13
46
@at_sushi_
門脇 敦司/ Atsushi
2 years
6/ 👤「私はリモートワークを多く経験しましたが、リモートは長期的には『子羊を屠殺場に導く』プランだと思ってます。企業にとっては、実はかなり得です。例えば、オフィス代の節約、ハッピーアワー代の節約、採用範囲が広がり、給料をさらに下げる。すぐ解雇できるので人間関係トラブルもない。」
1
11
47
@at_sushi_
門脇 敦司/ Atsushi
1 year
OpenAIのCEOであるSam氏は、OpenAIの株式を持っていない。 「(お金のためでなく)好きだからやってる」 ということらしいです。書き起こし↓
3
7
44
@at_sushi_
門脇 敦司/ Atsushi
2 years
11/ 理論的にはOKです。そして、数十のインスタンスであれば、問題ありません。それが数十のマイクロサービスになるとやばいですし、もっとやばいのは巨大な企業内であらゆる垣根を越えて(例. Googleで全てに1つのカラーサービスを提供する)いる場合です。これは技術課題というより、組織課題です。
1
9
43
@at_sushi_
門脇 敦司/ Atsushi
2 years
EUで、充電器をすべて「USB Type-C」に統一する法案が出される。可決がほぼ確実、2024年秋までに施行予定。 Apple のライトニングケーブルがついに...!
0
15
42
@at_sushi_
門脇 敦司/ Atsushi
2 years
11/ ※まだまだあるのですが、一旦これくらいで🙏 雇用規制が日本とは大きく違うのでその点は注意が必要ですね。 GitHubレイオフについてのソース:
0
7
42
@at_sushi_
門脇 敦司/ Atsushi
2 years
8/ B. 分散システムは、成長するにつれて必要とされてきますが、それぞれが独自のリスクプロファイル(訳注:単体テストとかのこと?)を持つ何十、何百ものマイクロサービスを扱うことは、かなり難しいことです。 C. 完全にマイクロ化すると、無秩序を正すため、新しい概念を導入する必要があります。
1
6
41
@at_sushi_
門脇 敦司/ Atsushi
2 years
GPT4の API 招待が多くの方に来ているようですね(自分も来ました) ただ、非常に高額なので気をつけましょう↓ gpt-3.5-turbo: $0.002 / 1K tokens gpt-4 8 K: $0.03~0.06 / 1K tokens gpt-4 32K: $0.06~0.12 / 1K tokens
Tweet media one
3
13
41
@at_sushi_
門脇 敦司/ Atsushi
2 years
12/ 私が提示したものは、誤った二項対立のように思えるかもしれませんが、実際、マイクロサービスには明確な技術的課題だけでなく、それ以上に組織的な課題があることは分かっています。 そして、私が心配しているのは、この点です。
1
7
40
@at_sushi_
門脇 敦司/ Atsushi
2 years
7/ 話を戻して、「なぜ」なのか、お話ししましょう。 私は基本的に以下のように考えています。 スピードとリスク A.エンジニアリングチーム全体が一つの大きなアプリ(Railsアプリのサイト全体と考える)の中で作業するメリットを話す方が、マイクロサービスのデメリットを考えるより簡単です。
1
5
39
@at_sushi_
門脇 敦司/ Atsushi
2 years
10/ 分散システムに関わっているエンジニアは重複を避けようとしているのでしょう。 そのため、複数の場所で同じことが行われていたら、「これを取り出してマイクロサービスを作ろう」と考えます。
1
7
39
@at_sushi_
門脇 敦司/ Atsushi
2 years
5/ それぞれの定義について、私はいつも以下のように考えています。 monolith - apps - 、コアな価値ごとに分かれている。数個までの場合こう呼ぶ。
1
4
39
@at_sushi_
門脇 敦司/ Atsushi
2 years
14/ 最も重要なのは、ライブラリやSDKなどになるはずのマイクロサービスが、 開発時のリスクになる場合がある点です。 たくさんのコードは確かにオーバーヘッドですが、たくさんのサービスは、顧客の感じるプロダクト/体験へのリスクです。どちらの手法もデメリットはありますが、その度合いは違います
1
8
39
@at_sushi_
門脇 敦司/ Atsushi
10 months
1/ エンジニア採用強化中なので、弊社のAIプロダクトで使っているRAG技術の工夫・テクニックを80%くらい公開します。 ※今回は対象読者として、「RAG」と聞いて何の話だか分かる方を想定しています(続く→)
Tweet media one
2
5
39
@at_sushi_
門脇 敦司/ Atsushi
2 years
7/ 👤(↑に対して)「逆も同じでは。物理オフィスだと、社員は辞めづらいでしょ。職場での絆や、引っ越しのコストがあるから、転職で昇給・労働条件の改善があってもやめない人も結構いるよ。」
1
6
38
@at_sushi_
門脇 敦司/ Atsushi
2 years
5/ 👤「や、どっちかにしてくれ。出社必須の会社、週2,3日出社の文句が話題によく出るのに、今回、ある会社が『完全リモートワークにする』と言うと、こうやって非難されるのか。 どっちやねん。」
1
8
38
@at_sushi_
門脇 敦司/ Atsushi
2 years
4/ 一連の議論を読みたい方はこちら: ↓以下では、特に興味深いコメントを取り上げます。
1
8
38
@at_sushi_
門脇 敦司/ Atsushi
2 years
4/ もしあなたが1万人規模の会社でこれを読んでいるなら、おそらくこれらのアーキテクチャがある程度存在していると思いますが、今から私が言う事はは、これまでと違うかもしれません。 さて、まずは定義の話から。正確な定義があるわけではありませんので、
1
5
36
@at_sushi_
門脇 敦司/ Atsushi
10 months
「eインク」スクリーン搭載の iPhone ケース。NFCで通信、ケース自体の充電は不要らしい
1
6
36
@at_sushi_
門脇 敦司/ Atsushi
2 years
6/ services -monolith/apps をサポートする。コアインフラ、多くの場所で必要とされる。アプリチームによって書かれていない場合もある(インフラチームが担当)。 microservices -数百行程度のコード、ちょっとした仕事、ライブラリ・SDKかも/であるべき
1
5
35
@at_sushi_
門脇 敦司/ Atsushi
2 years
17/ 「では、アマゾンやウーバーはどうなんだ?」と言われるかもしれません 1. 好きにやってみてください。私は、経験を述べているだけです。 2. アマゾンみたいにサービスを義務化して成功したことがあれなら、頑張れ 3. これらはルールというよりガイドラインです
1
7
35
@at_sushi_
門脇 敦司/ Atsushi
1 year
OpenAI DevDayの感想 1/ 安泰な開発者が一人もいない OpenAIのAPIを利用して成功しているアプリ/OSSのほとんどが、今回の発表で大きく価値を落としたように感じます。ex. ChatPDF, LangChain 2/ 開発不要のGPTsには限界があり、それは開発者にとっての追い風
1
6
36
@at_sushi_
門脇 敦司/ Atsushi
5 years
おれが小学校の頃好きだった人と、小学校の頃のおれの親友が結婚したと聞いてご飯粒吹き出した
0
0
35
@at_sushi_
門脇 敦司/ Atsushi
2 years
19/ 分散システムと企業のスケールとの組み合わせはかなり複雑で、それをやったことがある人は非常に少ないため、それぞれの企業にピッタリハマる教訓を得ることは難しいです。それぞれの状況や事例が異なるからです。私がここで話しているのは、問題にどのようにアプローチするかについての考えです。
1
5
34
@at_sushi_
門脇 敦司/ Atsushi
2 years
10/ 👤「そもそも、私が2017年にGitHubのオフィスを訪れたときから、ほぼ誰もいませんでした。かなり豪華なオフィスなので、無駄遣いだな、と当時から思っていました。」 👤「GitHubは当初からリモートファーストの会社。マイクロソフトが買収しても、その文化を変えられなかったというだけ。」
1
11
35
@at_sushi_
門脇 敦司/ Atsushi
2 years
8/ 👤「このスレッド、色んな人が違うこと言っているな」 👤「それもそうですが、1人が、2つの矛盾した意見を持ってるパターンもありますね。リモートは素晴らしいと思いながらも、チームワークは失いたくない、消耗品にはなりたくないと思っ���いる人もいます。」
1
6
34
@at_sushi_
門脇 敦司/ Atsushi
1 year
ChatGPTの「ウソ」を、ChatGPT自体に発見させる手法について 「本当ですか?」ではなく「関連知識を3回聞いてブレないか確認する」方が発見率が高い 普通に、実務でも使えそうな研究でした↓
Tweet media one
2
6
32
@at_sushi_
門脇 敦司/ Atsushi
2 years
3/ 何が起きたか? 「Metaとの戦いに疲れた」とのこと。退社する意思を社内のチャットツールに投稿した。 原文ママだと"wearied of the fight"
1
11
32
@at_sushi_
門脇 敦司/ Atsushi
2 years
2/ (念のため。)そもそも誰? 2000年代から『Doom』や『Quake』など今の3Dゲームの開発者、というか先駆者?として超有名だった 2013年~初のOculus CTO→買収後のMeta社でもVR/ARに関わる 2019年~Metaの技術顧問に。日本のVR界隈でも「神」として知られている
1
11
31
@at_sushi_
門脇 敦司/ Atsushi
11 days
RAGに関する記事。この手法を使えば、社内文書を投入したRAGで、特に精度が上がります 社内文書というものは、色んな人が色んな表現で文章を書きます。そうした「ばらつき」は、検索精度を下げます。今回の手法では、そうした文書をLLMで書き換えて均質化することで、検索精度を向上させます!
@sasa_kuna_
Hidetoshi Sudoh
11 days
GenEOLは、LLMによる複数の文章の変換と要約をEmbeddingと組み合わせることで、セマンティックサーチの精度を向上させる手法です。 以前と比べて安価なLLMも登場してきているので、コスト面で見てもかなり現実的な手法になっているかと思います。 #zenn
0
17
155
0
16
133
@at_sushi_
門脇 敦司/ Atsushi
3 years
POSレジ系サービスは国内にもたくさんあるが、下手すると全滅まであるってこと...? ---------------------- Apple、iPhoneが決済端末になる「Tap to Pay」発表。米国で導入
Tweet media one
1
10
29
@at_sushi_
門脇 敦司/ Atsushi
2 years
4/ 背景? そもそもカーマック氏は、前々からMeta社の方針にかなり苦言を呈していた 例)Quest Proは高すぎ、大衆向けを作るべき。など
1
11
29
@at_sushi_
門脇 敦司/ Atsushi
2 years
ビジョン・ファンド。3兆円赤字で、ついに保有していたUberの株式を全て売却したとのこと。
1
14
26
@at_sushi_
門脇 敦司/ Atsushi
2 years
Stable Diffusion を利用して、脳波から高解像度の画像を再構成する論文。 すごすぎます。。。
Tweet media one
1
8
27
@at_sushi_
門脇 敦司/ Atsushi
1 year
3. プロンプトの工夫 通常、どうしても画像内のリンゴを12個だと勘違い。 有名な「Let's think step by step.」も効果なし。 しかし、「あなたは画像の中のものを数える達人です。正確な答えを導くため、画像に写っているリンゴを一列ずつ数えてみましょう。」というプロンプトでクリアできた。
Tweet media one
1
5
26
@at_sushi_
門脇 敦司/ Atsushi
2 months
今まで見た中で一番いいプロンプト。LLMからの回答精度だけを求めるなら、以下の「内省プロンプト」がベストですね。 ←普通のGPT-4o   内省プロンプト→
Tweet media one
Tweet media two
2
7
26
@at_sushi_
門脇 敦司/ Atsushi
8 months
LLMに渡すプロンプトを2~5倍圧縮できる研究。「LLMLingua-2」は、元の文章の情報量を損なわずにプロンプトを短くできるので、RAGシステムに組み込むことで真価が発揮されます。 個人的には、前モデルの「LLMLingua」は日本語に弱いという報告があったので、このモデルはどうなのか気になります。
Tweet media one
1
7
25
@at_sushi_
門脇 敦司/ Atsushi
2 years
1
3
23
@at_sushi_
門脇 敦司/ Atsushi
2 years
1/ ロシアの検索エンジン「Yandex」のソースコードが流出。 ページランクに使われているアルゴリズム1922個も流出。GoogleのSEOとすべて同じではないですが(70%と言われている)、これを世界のSEO界隈の方々が必死に分析しGoogleのSEOに応用しようと試みています。(続く→
Tweet media one
1
5
22
@at_sushi_
門脇 敦司/ Atsushi
6 years
こういう「ロボットではありませんか?」的なやつ機械学習で突破するコード書けた(もちろん悪用はしません)
Tweet media one
1
2
23