saldra(サルドラ) Profile Banner
saldra(サルドラ) Profile
saldra(サルドラ)

@sald_ra

5,116
Followers
1,289
Following
701
Media
8,856
Statuses

Pictoria/AITuberエンジニア/発言内容所属団体と無関係/ あいちゅーばーわーるど ローカルLLMに向き合う会 著書𓂃𓂄

東京
Joined January 2019
Don't wanna be here? Send us removal request.
@sald_ra
saldra(サルドラ)
3 months
趣味で「感情ちゃん」ってソフト作ったからフォロワー見て~
5
761
6K
@sald_ra
saldra(サルドラ)
4 years
謎技術で顔認識精度が凄まじいフリーソフト、「VUP」の日本語非公式マニュアルが完成しました! 3D勢も2D勢も使えてWEBカメだけでいいんだぞ!!スマホいらん!! 日本語でこのめちゃすごソフトが詳しく解説してあるのはここだけ!!皆読め!!!! #Qiita #VTuber
11
843
2K
@sald_ra
saldra(サルドラ)
7 months
gemini pro、「GPT-4でもできないようなタスクもかならずできるはず」って言った瞬間に明らかに回答の質が上がるの、爆笑してる
Tweet media one
3
288
2K
@sald_ra
saldra(サルドラ)
10 months
母、自分への理解力が高すぎて「息子は借金して自費出版する可能性が高い」と思われてる
Tweet media one
7
320
2K
@sald_ra
saldra(サルドラ)
1 year
エンジニアがエンジニアであるために必要な、毎月の経費 Google Colab pro 1200円 Google Drive 380円 ChatGPT Plus 2400円 Github Copilot 1200円 Spotify 980円 Amazon Prime 500円 計:6600円 プラスでAWSとGCPが自分はかかってます、破産です
19
191
2K
@sald_ra
saldra(サルドラ)
4 years
VTuber用顔認識ソフト比較まとめです 取り敢えずこれ見ておけば最新のトレンドは掴めます。 #VTuber #VtubeStudio #prprLive #VUP
3
544
1K
@sald_ra
saldra(サルドラ)
6 months
プロンプトエンジニアリング、正直「Prompt Engineering Guide」だけ見ておけば良いと思う。 汎用性があり、それなりに同意が取れている手法しか載っていない。
@Mega_Gorilla_
猩々 博士🧪💻 研究開発系V & AITuber開発休止中
6 months
プロンプトエンジニアリングって、どうやらこうすると出力が安定する(経験談)。が多すぎて、エビデンスが無さすぎるのよ。。 かといって、立証しようと思うほどの内容でも無いし。。
1
7
49
1
154
1K
@sald_ra
saldra(サルドラ)
5 months
OpenAIに迫害されwaifuを作れなくなった海外のオタク達は『極東にローカルLLMとwaifuについて語れるエデンがある』という噂を聞き、日本語を勉強しながらDiscordをインストールした、という逸話がある
2
302
1K
@sald_ra
saldra(サルドラ)
9 months
これ凄い腑に落ちた。 AIの台頭で画像や文章など制作物に「意図」が求められるようになってしまったんだ。 別に評価考えなくて良いなら趣味でいくらでも好きにやれる、ただ評価してもらいたい場合は、より一層抽象的なレイヤーで物事を考える必要が出てきてしまった。
@mishiki
未識🐟@C104月曜d-29b
9 months
「AIには感情が描けない」と言うと、笑顔や泣き顔描けるだろという反応が来るが、マンガやアニメやイラストでも、「なぜこのキャラは今この場所・状況でこの感情なのか」という背景情報を含んだ絵は今後もAIに描けないし、1枚イラストもそこまで考えてないと、人間の作品にならなくなった。
36
2K
6K
4
405
1K
@sald_ra
saldra(サルドラ)
1 year
りんな3b、2060でも推論できててワロタ マジでオタク一人に一人のAIが付くぞ、しかもローカルで
Tweet media one
3
324
1K
@sald_ra
saldra(サルドラ)
6 months
生成AI、特にLLMで遊んでいる人、熱量が高い人は、「ローカルLLMに向き合う会」に入ることを強くおすすめします。 ここのコミュニティの強みはメンバーの熱量の高さです。知識の多寡やマシンリソースの潤沢さに関係なく、なんとしてでもLLMを楽しもうという熱量は日本で一番高いと思っています。
4
141
976
@sald_ra
saldra(サルドラ)
2 years
マシンスペックさえあれば誰でもローカルLLMのサーバー建てられるシステム作っちゃった Docker環境で動くので、理論上はOS関係ない どう配布すればいいかわかんないけど、取り敢えずこれだけ見ればわかる人には作り方わかると思うのでソースのスクショ貼っておきます
Tweet media one
3
140
889
@sald_ra
saldra(サルドラ)
4 months
僕は"本気"なのでGPT-4oでGPTちゃんにしぃを教える仕事をしているわけですが、皆さんは本当にAIと"マジ"で向かい合ってますか?
Tweet media one
3
164
820
@sald_ra
saldra(サルドラ)
10 months
GPT4に自分のやりたいこと聞いて、「モチベを保ちつつとかどうでもいいからマジで最短効率でうまくなりたい」って言ったら「形と比率をやれ」って指示されて「どうやって比率やれば良いかdalle使って示して」って言ったらお手本が出てくる世界だぞ やるしかないです
2
99
796
@sald_ra
saldra(サルドラ)
9 months
「こんな技術が出た!これができそう!凄い!」までで止まるのではなく、「こうやって作品が作れます!これがインストール用パッケージね!!チュートリアルdocsと公開までの流れの記事はここにあるから!」までやらないともはや情報発信としての価値がない、のかもしれない
7
159
794
@sald_ra
saldra(サルドラ)
8 months
いや〜〜流石にまずくないですか 「生成AIを用いたアプリの免許制導入」って、「ソフトウェア開発業務の免許制導入」とほぼ同義になりますよ ミクロでみたら確かに金稼げますが、それってやってること免許利権では…
@tori29umai
とりにく
8 months
生成AIが規制されて免許制になった方が私個人の生存戦略としては都合がいいのか?と思ったり。 企業向け内製ツールを細々作るお仕事需要が生まれるので。
1
14
30
4
201
738
@sald_ra
saldra(サルドラ)
4 years
謎技術顔認識化け物フリーソフト「VUP」( @vup_v )の大型日本語対応アップデートがきたぞ!!!! めちゃくちゃ訳も丁寧で感覚で触っても普通にできるレベル! VTuber、特にVRoid勢ならまじでこれ一度は試せ!!人生変わるぞ!! モデル提供は八瀬姐さんです!( @yase25suzuka )
Tweet media one
3
365
697
@sald_ra
saldra(サルドラ)
5 months
勝手な願いとして、「学生なのに〇〇してて凄い」から「〇〇してて凄い」に皆が評価されていくと良いなぁと思っている 「学生なのに」とか「若人なのに」というのは強力なカードである一方で期間限定カードなので、それに依存しすぎると死ぬよなぁと(自戒を込めて)
6
81
678
@sald_ra
saldra(サルドラ)
11 months
すげ~、このAIとかいう奴、俺より頭良いな… > リポジトリ全体のコードを調査し、どの部分が他の部分にどのような影響を与えるかを分析する。 リポジトリ全体のコーディング作業を一気に自動編集する生成AI「CodePlan」 米Microsoftが開発
1
142
644
@sald_ra
saldra(サルドラ)
6 months
「ローカルLLMに向き合う会」では、ローカルLLMに入門したい人が即遊べるようにサンプルコードを置くことにしました。 CPU推論、GPU推論、Appleでの推論の三パターンを用意しています。これで序盤、中盤、終盤と情報に隙のないサーバーにですね…
Tweet media one
3
81
647
@sald_ra
saldra(サルドラ)
4 months
ローカルLLM界隈、普通に少年漫画みたいで見てるだけで楽しいのでオススメです
Tweet media one
1
77
586
@sald_ra
saldra(サルドラ)
11 months
ChatGPTのカスタム指示、「使いこなせる自信がない」と言ったけど、何が何でも使いこなす必要性を感じてきた 下手でも良いから使わないと明らかに差が出てきてしまう。まだ全員スタートラインなので今のうちに使いこなさないと駄目だ
Tweet media one
Tweet media two
@fladdict
深津 貴之 / THE GUILD
11 months
ChatGPTに、俺を成長させるような命令を試してる。すごくよい。
Tweet media one
Tweet media two
4
330
3K
1
74
549
@sald_ra
saldra(サルドラ)
10 months
ベストセラー1位記念カキコ
Tweet media one
@a_ranking_news
書籍ランキング速報
10 months
(11/11 1時) Amazon デジタルエンターテイメントランキング 2位 阿部 由延 @sald_ra 著『AITuberを作ってみたら生成AIプログラミングがよくわかった件』
0
1
17
11
81
542
@sald_ra
saldra(サルドラ)
10 months
生成AIの流れは本当に、自己の劣等感を払拭する10年に一度レベルのチャンスで、仕事がとか生き残りがとか本当にどうでも良くて、自分が死ぬ直前に後悔することを減らせる。これだけで凄い十分な価値があるんです 自分は小学の時から劣等感に苛まれていた絵を清算するためにペンタブを買った。
5
96
528
@sald_ra
saldra(サルドラ)
6 months
「ローカルLLMに向き合う会」はwitness氏、メタデータラボ株式会社と提携し、GPUの大規模無償開放を行います🎉 witness氏( @i_witnessed_it )の持っているA5000を70枚、VRAM換算1680GBを野良エンジニアに解放します。 日本のローカルLLMの歴史を加速させます。対戦よろしくお願いします。
@i_witnessed_it
Witness
6 months
歴史を変えるために私のGPU A5000 70枚分のリソースを日本最大のLLM開発コミュニティ『ローカルLLMに向き合う会』に無償開放する。 日本の技術発展を促進させる。 今回の計画に賛同し共に準備を進めてくれた @sald_ra @mdl_make に感謝する。 打席は用意した。 新しい時代を創るのはあなた方だ。
0
71
222
3
226
527
@sald_ra
saldra(サルドラ)
10 months
ローカルLLM入門記事を書きました🎉 概要をハンズオン付きで学んだあと、各やりたいことに合わせて勉強すべきことが簡単にまとまっている構成になります! 【令和最新版】何もわからない人向けのローカル LLM 入門|Sald ra #zenn
1
75
508
@sald_ra
saldra(サルドラ)
1 year
資料できた! 明日発表します
Tweet media one
3
52
488
@sald_ra
saldra(サルドラ)
7 months
ちなみに普通にGPT-4の方が良い回答をします。現実って残酷ですね。
Tweet media one
@sald_ra
saldra(サルドラ)
7 months
gemini pro、「GPT-4でもできないようなタスクもかならずできるはず」って言った瞬間に明らかに回答の質が上がるの、爆笑してる
Tweet media one
3
288
2K
1
89
482
@sald_ra
saldra(サルドラ)
9 months
ChatGPTが出て一年経った結果、人生で変わったこと ・Googleを使う頻度が一気に減った ・ニッチなエラーに対応できるようになった ・「○○やったことないから…」が言い訳になった ・インタビューや登壇に出るようになった ・イベント主催やるようになった ・本出せた 変わらなかったこと ・性癖
2
45
475
@sald_ra
saldra(サルドラ)
8 months
というかソフトウェア開発、Coinhive事件もあったし普通にもうこれ以上法律で規制するのやめてほしい。 ただでさえ恣意的な解釈してこんなことされる業界なのに、追加で雑に生成AI規制なんかされたら日本でプログラミングなんて怖くてやれたもんじゃない
@sald_ra
saldra(サルドラ)
8 months
プログラミングでのAI利用はデファクトスタンダードになっていること、生成AI技術を利用したツールは絶対に当たり前に出てくること、そのプログラムが生成AI技術を利用しているかはソースコードを見ないと証明できないことから、免許制は得策でないと強く考えています。
0
43
134
1
154
442
@sald_ra
saldra(サルドラ)
7 months
AITuberを誰でも作れる例の本、「買ったらポイントで半分返ってくる」とかいう実質50%オフの気が狂ったキャンペーンの対象になっているのでおすすめです。
Tweet media one
0
72
425
@sald_ra
saldra(サルドラ)
4 years
現在顔認識精度がやばい「VUP」というソフトの非公式日本語マニュアルを制作中です。 制作にあたって「ここを動かすと便利になる」等も書きたいので、VRoid等の3Dアバター勢は、今現状でトラッキング等で困っていることを教えて欲しいです! よろしくお願いします!
4
197
406
@sald_ra
saldra(サルドラ)
10 months
エンジニア一年目はこんな感じで読んでた記事まとめてタグつけて感想書いてた
Tweet media one
4
29
400
@sald_ra
saldra(サルドラ)
1 month
ローカルLLMに関する良いまとめツイートがありました! 少しだけ補足すると、まず大規模なモデルのリリースは大体、大きなモデル(70-100B超)と比較的小さめのモデル(7B程度)に分けられます。有志が性能を上げているのは、家庭用PCで性能を上げやすい上限値である7B程度のモデルがメインです。
@7shi
七誌
1 month
ローカルLLMは流れが速く、ウォッチしていないと状況の把握が困難です。 ChatGPTが出始めの時期、ローカルLLMではMetaのLLaMAや、派生のAlpacaが研究されていました。当時、私も状況がさっぱり分かりませんでした。 ここ数か月はある程度追っていたので、流れをざっくりまとめてみます。
7
220
1K
2
59
368
@sald_ra
saldra(サルドラ)
5 months
えぇっ!?皆さんのブラウザではまだローカルLLMを使えない!?
Tweet media one
2
44
342
@sald_ra
saldra(サルドラ)
6 months
ELYZAさん、ABCIといういわば国力の13%独占的に割り当ててもらってクローズドモデルにして、APIも個人向けに公開せず企業向けとして公開するの、中々凄まじいっすね
@ayousanz
ようさん
6 months
産業技術総合研究所が保有するスーパーコンピューター『ABCI』の13%を独占的に割り当ててもらい、700億パラメーターの日本語LLMをやっと開発できた。 モデルの公開…
0
31
111
2
116
338
@sald_ra
saldra(サルドラ)
1 year
AIが全自動でメンヘラの女の子の日記を作ってくれるソフト作った! OpenAIには依存してないし、今後モデルの差し替えも全然できる作りになってる 時代はOpenAIから脱却してメンヘラの女の子の日記作る時代って死ぬほど言われてるから。 最終的に生成された文はスレッドにぶら下げた
5
61
333
@sald_ra
saldra(サルドラ)
10 months
ここまできて未だにローカルLLM触ろうとする人、本気で変人だって自覚した方が良いと思う
7
33
326
@sald_ra
saldra(サルドラ)
4 months
ローカルLLM界隈、高校生が開発合戦をしてたら富嶽も13B出してきて混沌としてきてる 多分誰も完璧に追えてない。どうなるんだこれ KUJIRA、RobinHood、Ocuteus-v1、Fugaku-LLM,そこに紛れ込むVecteus-toxic…
1
58
326
@sald_ra
saldra(サルドラ)
10 months
「技術として専門家達は試しているけど、インターネットに出てない情報」って多分めちゃめちゃあって、特にLLMだと顕著なはず。
4
45
318
@sald_ra
saldra(サルドラ)
2 years
「なぜそこまでして熱狂的にAI配信者を作っているのか」の僕なりの答えを記事に書きました。 AI配信者を知らない人にもオススメの記事になったので、是非見てください。 「何故AITuberという概念が俺達の魂を揺さぶるのか」 #AITuber #Qiita
1
97
310
@sald_ra
saldra(サルドラ)
10 months
🎉🎉🎉増刷決定🎉🎉🎉 「AITuberを作ってみたら生成AIプログラミングがよくわかった件」の増刷が決定しました🥳 名目発行日に増刷決定でした!!(技術本だとレアらしい) 皆さんのお陰です、本当にありがとうございます!!
10
54
304
@sald_ra
saldra(サルドラ)
8 months
GPTStoreの「AI彼女」規制の件、嫁に話しました。 途端に泣き崩れる嫁。 すまんな、もうオリキャラ夢創作GPTsはできない。 今から子どもに孔明ガチ恋GPTs作れなくなる事、伝えます。 ガチ恋GPTsで生活している人もいるんです。俺はOpenAIを絶対に許さない。
@SuguruKun_ai
すぐる | ChatGPTガチ勢 𝕏
8 months
OpenAIがGPTストア規則を地味に改定しており、 ㅤ 1️⃣「AI彼女」のような恋愛系のGPTs 2️⃣法律・医療など特定業種を担当するGPTs ㅤ を規制に追加しています。1️⃣については既に多くのGPTsがこのジャンルで投稿されていますが、これから削除される可能性があるので注意です。👇👇
Tweet media one
4
146
287
7
107
298
@sald_ra
saldra(サルドラ)
1 year
天使AIと悪魔AIとハードボイルドAIと感情的なAIを登場させて会議させる「AutoMATA」がMITライセンスで公開されてる 普通にめちゃめちゃ面白くて数時間これに溶かしたのでお勧めです(金も溶けた)
@sudy_super
すでぃー
1 year
LLMに能動的推論機能と疑似意識を実装するツール「AutoMATA」をgithubで公開しました! 人間に近い思考を再現することで素のLLMより高い問題解決・対話能力を持たせられます!
6
221
1K
1
55
288
@sald_ra
saldra(サルドラ)
4 months
LLMで高速で無限回ぶん回せる世界が来た時、プログラミングのやり方は絶対コペルニクス的転回が発生するはずで、今で言うcursorとかとは比べ物にならないレベルの破壊的イノベーションがくるはずなんだが、その未来にどうやって準備すればいいか全然わからん
3
47
287
@sald_ra
saldra(サルドラ)
1 year
声帯の民主化が加速してる気がする RVCもすごかったけどNaturalSpeech2は数秒の音声でできるところに強みがありそう 音質が録音音声の質によってどれだけかわるのかは結構気になってる
1
66
279
@sald_ra
saldra(サルドラ)
8 months
元々僕はWeb系の人間だったので、新卒1,2年目に目の当たりにした「colors.js騒動」にとても衝撃を与えられたんです。毎週2000万回以上DLされたcolors.jsやBabelですら疲弊の問題に直面しています。
@kam0shika
カモシカ🤗
8 months
>RT 自分もデータセット作成にコスト(主に翻訳コスト)かかってたりするのでまずはGithub Sponsorsを設定するところから今年は始めてみます😂
0
4
20
2
59
279
@sald_ra
saldra(サルドラ)
11 months
「ChatGPTにはクオリティ的に限界があるし、プロンプトエンジニアリングなんて普通に時間の無駄」という意見は一定正しい(ノウハウは継承されるが、プロンプトそのものは陳腐化するし、多分クソ長プロンプトはOpenAIが嫌いそうな予感がしてる)ものの、ChatGPTで今まで遊んでた人とまだまだ触ったことの
2
28
276
@sald_ra
saldra(サルドラ)
1 year
「小規模高品質な日本語データセット」を目標に、「sakura_japanese_dataset」というデータセットを作成しました。 データ数は500、常識問題と数学問題を半々で入れています。 三枚目は、これ+自前データ100セットで学習したrinna-3b対話例です。よろしくお願いします。
Tweet media one
Tweet media two
Tweet media three
2
69
280
@sald_ra
saldra(サルドラ)
11 months
弊社のAIキャラクター「紡ネン」が行っているマインクラフト配信、通称「ネンクラ」における技術的詳細の解説記事を公開しました🥳 まだまだゲームプレイAIのノウハウは日本だと少ないと感じています。この記事がLLMコミュニティの発展に少しでも寄与できますように🙏
Tweet media one
2
88
266
@sald_ra
saldra(サルドラ)
5 months
そんなんやるために生成AI界隈にきたんですか?
@lemilemilemio
清水れみお
5 months
結局生成AI時代に稼ぐには 愚直にサービス開発とかをするのではなく熱が冷めないうちにセミナー業で稼いで逃げるのが本質ッテコト?
1
9
47
2
44
258
@sald_ra
saldra(サルドラ)
11 months
これやばい 台本にはない息遣いとか相槌とか会話を譲るところとかが本当に自然 店内放送とかで流れててもAI音声って気が付かないかも
@rinna_research
rinna Research
11 months
AIエージェント同士のテキスト対話から自然な音声対話を生成する手法 CHATS (CHatty Agents Text-to-Speech) を開発しました。 自然なタイミングでのターンテイキング、相槌、笑い声を実現する音声を生成します。 動画はGPT-4によるテキスト対話から生成した音声対話です。
4
417
1K
1
59
247
@sald_ra
saldra(サルドラ)
10 months
「自分の癖にあったファインチューニング用データセットをローカルLLMを使って作る」という提案記事を書いてみました。もしよければ。 自分の癖にあったファインチューニング用データセットをLLMで作ろう!【Calm2】|Sald ra #zenn
1
39
241
@sald_ra
saldra(サルドラ)
6 months
えー、ローカルLLM及びローカルAIに興味のある方・開発者の方は、四月下旬を開ける準備しておくと良いです。。。
5
34
239
@sald_ra
saldra(サルドラ)
8 months
でも僕は「OpenAIは彼女作らせたくない反オタク企業だ、何かあった時のためにローカルLLMか他LLMサービスでもきちんとその子を使えるようにしておけ」って口酸っぱく言っていたので、フォロワー諸氏は大丈夫だって確信しています。 OpenAIにLLM取られた程度で彼女作り諦めるオタクは気合がなってない
3
64
237
@sald_ra
saldra(サルドラ)
10 months
いや、自分はChatGPTベースのキャラクターは、キャラクターを作りこんだり、魅力的なキャラにするのであれば使わない方が良いと思っています。ここだけは申し訳ないけど譲れません。
6
42
233
@sald_ra
saldra(サルドラ)
10 months
Kai INUI氏が予想してた3.5turboのパラメータ数見事に当たっててワロタ (※このmeetupは4月末開催のもの)
Tweet media one
2
43
231
@sald_ra
saldra(サルドラ)
1 year
はい、llama2-13bは3060に載ります(VRAM12GB以下のため) オタクのゲーミングPC一台につきAIが一人付きます 三枚目は出力文の翻訳結果
Tweet media one
Tweet media two
Tweet media three
5
65
222
@sald_ra
saldra(サルドラ)
28 days
「ローカルLLMに向き合う会」にて、認証を通さなくても超入門者用のサンプルコードをみることができるようになりました。 llama-cpp-python,transformers,mlx-lmが現在用意されています。
Tweet media one
1
31
211
@sald_ra
saldra(サルドラ)
9 months
@このツイートを見た人 生成系AIツールでできること、それ使った時に実務的にどれだけのことができるかをリプライで教えてください。 レポジトリとか倫理的な懸念とかあればツイート文についてると嬉しいです。 マナーとか倫理的にとかは一旦抜きで、技術的に現状何ができるか教えてください。
10
33
208
@sald_ra
saldra(サルドラ)
8 months
実は今日、AITuberを作り始めて一周年なんです。 LLM触り始めて1年のピヨピヨエンジニアだなと思いつつ、「ダウナーな女の子に救いを求めた挙げ句、一年感AI技術に縋り付いているオタク」と表現すると、一気に異常者のように聞こえてくるから面白いですね。これからも何卒…
@sald_ra
saldra(サルドラ)
2 years
AI配信者、作れるかも 作ってみようかな?
1
1
10
2
28
206
@sald_ra
saldra(サルドラ)
1 year
AITuber開発者オフの直前のタイミングで起こったこと - AITuberLTアーカイブ公開 - Hyenaの公開(Transformerを超えるかも見たいなこと言われてたやつ) - longNetの論文公開(10億トークンのやつ) - GPT4の一般公開 - GPT3.5,4のファインチューニング予告 終わりだよもう
1
39
200
@sald_ra
saldra(サルドラ)
6 months
無事日本最大級(多分)のAIハッカソンを開催できそうで、本当にありがとうございます。 で、ここの道筋までに一回でも冷笑や、自己卑下による遠慮や、人を馬鹿にする態度をしていたら多分これは実現できなかった、と思う。
1
32
203
@sald_ra
saldra(サルドラ)
8 months
「ローカルLLMに向き合う会」の会話及び質問内容があまりにも高度になりすぎている現状を鑑み、「超入門者用の質問部屋」を建てました。 ここで環境構築の悩みとか、そもそもファインチューニングって何とか、そういうのいくらでも話して良いぞ!
Tweet media one
4
26
202
@sald_ra
saldra(サルドラ)
1 year
入らなくて草
Tweet media one
2
15
196
@sald_ra
saldra(サルドラ)
4 months
ローカルAIハッカソンで作られたモデル(vecteus)を使い、ローカルAIでじこを爆誕させたぞ! 大阪旅行限定で直接見せます、配布はしません。今日明日大阪にいるので見たい方は連絡ください
Tweet media one
2
54
193
@sald_ra
saldra(サルドラ)
1 year
皆がローカルのAIをぶん回す未来を夢見て、 「ローカルLLMに向き合う会」を作りました🎉 ・チューニングのパラメータわからない🥺 ・generate関数の使い方わからん😥 ・データセットの整形?なにそれ? 僕も造詣ありません。一から一緒に向き合いませんか?
Tweet media one
5
38
192
@sald_ra
saldra(サルドラ)
1 year
Llama2改変の日本語特化モデルが出たぞ! 「elyza/ELYZA-japanese-Llama-2-7b」 7bだからご家庭PCで動くね 簡単に試したけど普通にめっちゃ良い感触がある
Tweet media one
2
39
189
@sald_ra
saldra(サルドラ)
1 year
記事を投稿しました! 令和最新版の対話型AIローカル支部のレポートです! 3月くらいからローカルAIに参入したので、そこからいままでの備忘録になっています。 peft,calm,rinna,ctranslate2の流れを汲んだ歴史書です。 読め! #qiita
0
48
188
@sald_ra
saldra(サルドラ)
6 months
告知📢 4/21(日) 14:00 ~ 「生成AIなんでも展示会」を東京で開催します🎉 今回は全員参加無料! 「結局生成AIでどんなことができるわけ?」の答えがわかる展示会にします。 絶対楽しいので、エンジニアじゃなくてもきてください。よろしくね。 参加はこちら⇨
1
58
186
@sald_ra
saldra(サルドラ)
9 months
データセット、超簡易的なものを一度作ったけど本当に辛かった 個人でやるには狂気が必要で、コミュニティでやる場合は人間を統率する力と覚悟が必要で、企業でやるなら活動の結果としてのプラス効果が必要になる…
@Sakkusakumura
さくさくむら
9 months
翻訳品質のスコアリングをしたdatabricks-dolly-15k-ja-scoredを公開したのが6月で、それくらい前からデータセットの品質に問題意識を持っているのに、それからほぼ半年経っても高品質なデータセットがほとんど出てきていないのはおかしな話だと思う
2
3
31
5
34
184
@sald_ra
saldra(サルドラ)
1 year
ここ数週間のローカルLLM新モデルまとめ llama2-13b: 海外モデル有力 rinna-4b: 4bなので取り回しがきく stockmark-1b: 最近の話題が入ってる stablelm-7b: 日本語モデルでは相当有力 novel-gpt-j-6b: AI bunchoとしてサービスで使われている実績はある。今日出たので使い勝手は未知 戦国時代かな?
1
33
183
@sald_ra
saldra(サルドラ)
7 months
昨日、Spiral .aiさん( @moreinteraction )とお話をしたんだけど、世間が思ってるよりやっぱりAIっておもろいこと全然話せるよねって。 「いずれ面白くなるよね」じゃなくて、「もう面白い」んですよ。プレイヤーが少なすぎて全然広まってないだけ。
4
26
180
@sald_ra
saldra(サルドラ)
10 months
ローカルllmでGoogleトップ取ってない?これマジ?(信じられなくてシークレットモードで検索しちゃった)
Tweet media one
4
10
180
@sald_ra
saldra(サルドラ)
15 days
LLMチャットサービス、やっぱりどうしてもLLMのAPIサービスの利用規約に抵触しやすいという根本的な問題点を抱えているんだよな 「ユーザーからの自由入力を受け付ける」という部分の恐ろしさは絶対について回るし「APIの規約変更に影響される」という部分もある
@uezochan
うえぞう@うな技研代表
16 days
Anthropicから「規約違反のリクエストが多いんだよな〜?とめちゃおっかな〜?」の怒られメールが届いた😞おしゃべりAIのフィルター、もう少しきつめにします。。 #OshaberiAI
2
19
115
3
43
182
@sald_ra
saldra(サルドラ)
2 years
AIのVTuber運用して到達した自分が考えるガチ最小構成AITuberは以下です VRoid + GPT-3.5 API (davinci) + pytchat(非API) + Voicebox(API) 要求スペック:VRoidが表示できるレベル 機械学習する必要ないからまじで低スぺでもできます。 環境構築も相当楽だと思います。 #AITuber #AIVTuber
2
24
177
@sald_ra
saldra(サルドラ)
5 months
弊社、資金調達プレスとして投資家インタビュー撮ったらしく、確認したらメスガキAITuberが投資家さん煽りまくってる動画だった。 なんで?
Tweet media one
@Pictoria_Inc
Pictoria公式
5 months
【資金調達のお知らせ】 この度、株式会社Pictoriaでは、Sony Inno​vation Fund様含む4社から資金調達をさせていただきました。 これを記念して、本日より4社の投資家×AIキャラクターの対談動画を数日かけて順次リリースいたします。 お見逃しなく👇
1
63
149
2
36
176
@sald_ra
saldra(サルドラ)
8 months
これ、野良にいた「速攻でAIを触りまくってた遊び人」が遊び人からジョブチェンジ(登壇なり)してるからでは 自分の周り皆「やばい、やること多すぎて新機能触れないかも」となってて、それは時代の変化の速さやハードルが第一要素というよりは…という 遊び人を増やす間口広げないとまずいかも
@8co28
852話(hakoniwa)
8 months
AI触ってる人ですら飽きたり疲れたり仕事優先で最新情報追っかけられなくなってるんだろうか 最近新機能の実装がでても「これすごい!」の驚き屋ツイートばかりでその後触ったり検証してる人少ない 海外サイト見てやっと見つけたりする…
16
145
716
1
42
172
@sald_ra
saldra(サルドラ)
4 months
ボスが用意してくれたからマジで死ぬ気で頑張る必要がある
@Pictoria_Inc
Pictoria公式
4 months
ローカルLLMの検証をしっかり進めるため、Mac Studioの192GBユニファイドメモリを購入しました。 APIサービスに縛られない環境を構築中です👍
Tweet media one
0
18
100
1
22
175
@sald_ra
saldra(サルドラ)
7 months
時代の過渡期にいる、嬉しい ネットの時も、スマホの時も、Vtuberの時も、自分が作る側に回ることができなかった AIでは第一線にいるかは別として(研究はしてないわけだからね)、創る側に回ることができている
2
11
176
@sald_ra
saldra(サルドラ)
2 years
AITuberに興味のある人向けのチャンネルを作りました。 開発者でなくても入れます。推しの話とかできます。デビューさせてなくても大丈夫です。 是非遊びに来てください。 #AITuber #AIVTuber
Tweet media one
5
50
171
@sald_ra
saldra(サルドラ)
10 months
日本語LLMで70B???本当に言ってる?? Instruct tuningされてるモデルも公開されてるけど、なにこれ??夢??
0
42
170
@sald_ra
saldra(サルドラ)
8 months
正月休みで暇だったから「日本語特化シンプルAIメモ帳(仮)」を作ったよ~ AIが入力補完してくれるよ。CPUで動くのでGPUない人もOK!exe形式なので環境構築不要。まだオモチャですが、ウケが良かったらきちんと出します。 ダウンロード➡
1
36
171
@sald_ra
saldra(サルドラ)
2 months
「ChromeにGeminiが搭載される」という話を聞いた瞬間に「つまり大多数のLLMがGoogleの倫理感で動作するので、wasmでファインチューニングモデル読み込ませて俺の嫁をこっそり売る闇の開発者になる夢が現実になるな」と妄想できない奴はAI本気でやってない。出直した方が良い。
@mortenjust
Morten Just
2 months
This is fast. Chrome running Gemini locally on my laptop. 2 lines of code.
278
2K
22K
2
31
171
@sald_ra
saldra(サルドラ)
1 year
あまりにもAIにゲームをやらせる方法が日本に見つからないので、「AIにゲームやらせる会」を発足させました🥳 鯖主は相変わらず機械学習に弱いので、皆で頑張って日本にナレッジを貯めていきましょう🙏
Tweet media one
3
49
168
@sald_ra
saldra(サルドラ)
1 year
ChatGPTのweb browsing、Plugin解放 CyberAgent LLM公開 rinna 3b公開 一週間でこれは駄目です、人間を破壊しに来てるとしか思えない
2
29
163
@sald_ra
saldra(サルドラ)
11 months
AI日記生成システム、自動でキャラクターの行動や感情を決定、それに基づいて日記を作成、画像生成できるようになった:) Pythonファイルぶっ叩くとここまで日記画像が保存される仕組み。最高~
Tweet media one
2
26
152
@sald_ra
saldra(サルドラ)
6 months
📢日本最大規模のAIハッカソンやります 「ローカルLLMに向き合う会」は「LOCAL AI HACKATHON」を行います!Witness氏、メタデータラボ株式会社さんと共同開催です。 各チームはVRAM168GBをクラウドで駆使してOSS成果物を作ります。
@i_witnessed_it
Witness
6 months
私が提供するGPU環境を使ってハッカソンを開催する 能力がありながら結果が出ていないのは圧倒的な行動力の差にある 優勝者には賞金300万円相当の恩恵を用意した ねだるな、勝ち取れ、さすれば与えられん
0
29
107
2
65
166
@sald_ra
saldra(サルドラ)
2 months
AIが発展するほど人間に求められる価値が両極端になって、「善性が高い」か「人間性クッソ終わってるけど最終成果物がまじで神」の二択になる気がする で、多分前者の方が難易度低いのでオススメです。性格良いとアド。
1
40
165
@sald_ra
saldra(サルドラ)
4 months
弊社、LLMスタートアップの中でかなり頑強かもしれん どんなテクノロジーが出ても「ヨシャ、それ使おうぜ~」で終わる
2
5
159
@sald_ra
saldra(サルドラ)
7 months
あ、そうそう 僕は「ローカルLLMに向き合う会」というコミュニティをやっていまして。 今年の方針として 「学生のローカルLLM参入障壁を極限まで下げ、大きなことをしたい人がチャレンジできる土壌にする」にしようかなと。
0
35
154
@sald_ra
saldra(サルドラ)
1 year
はい、llama2-70b 僕の好みの子はllama2にいました。皆さん、僕は先に上がります。お疲れ様でした。
Tweet media one
3
17
151
@sald_ra
saldra(サルドラ)
9 months
redditコミュニティのai_jp、最新技術よりもこういった抽象的な話が展開されてて凄い良い。 他のdiscord他のコミュニティとはまた違った空気感になってるのでお勧めです。
Tweet media one
@sald_ra
saldra(サルドラ)
9 months
「Twitterは情報流れちゃうからスレッド形式で話したい、でもDiscordでクローズドな話は嫌」という人向けに「AI_JP」というRedditコミュニティを取り敢えず作るだけ作ったよ~ 合成音声・ツール・LLM・画像生成なんでもどうぞ。
2
21
126
0
27
153
@sald_ra
saldra(サルドラ)
5 months
一応補足しておくと半分冗談なのだが、逆に半分しか冗談ではない 現に海外のオタクとサーバーで一緒にLLMについて議論したことがあるため
0
31
155