ローカルAI「ChatRTX」刷新。画像認識や音声入力に対応
関根 慎一 2024年5月2日 13:19
NVIDIAは、ローカル環境でAIチャットボットを簡単に利用できる「Chat With RTX」を更新した。
PC上で動くカスタムAI。今回の更新で名称を「ChatRTX」に改めたほか、利用できるLLMを拡張。従来から利用できたMistral、Llama 2に加えて、
新たにGemma、ChatGLM3、CLIP(Contrastive Language-Image Pre-training)をサポートした。CLIPはローカル環境にある画像データの内容を
認識するためメタデータを必要とせず、自然言語による対話の中で画像の検索や提示などが行なえる。
https://pc.watch.impress.co.jp/docs/news/1588825.html
NVIDIAは、ローカル環境でAIチャットボットを簡単に利用できる「Chat With RTX」を更新した。
PC上で動くカスタムAI。今回の更新で名称を「ChatRTX」に改めたほか、利用できるLLMを拡張。従来から利用できたMistral、Llama 2に加えて、
新たにGemma、ChatGLM3、CLIP(Contrastive Language-Image Pre-training)をサポートした。CLIPはローカル環境にある画像データの内容を
認識するためメタデータを必要とせず、自然言語による対話の中で画像の検索や提示などが行なえる。
https://pc.watch.impress.co.jp/docs/news/1588825.html
18Bと28Bの比較
4月17日に公表されている最新の28ブロックは最強18ブロックより強いようです。
Discordに投稿されている検証結果を掲載します。
28ブロック b28c512nbt-s6441963264-d4250916767.bin.gz(4月17日公表の最新ネット)
18ブロック b18c384nbt-s9131461376-d4087399203 (kata1で現時点で最強のネット)
ゲーム数=400
一手あたり5000visits
numSearchThreads = 40 スレッド数によって強度の違いが発生するため、28ブロック、18ブロック共にスレッド数は40を使用。
結果: 28ブロックから見て、327勝73敗。260.49 ±44.85 ELO
同じネットを用いて、今度は一手あたり0.5秒。
ゲーム数=598
28ブロックはnumSearchThreads = 96(RTX4090の推奨値)
18ブロックはnumSearchThreads = 48(RTX4090の推奨値)
結果: 28ブロックから見て、341勝257敗。49.13 ±28.67 ELO
同じネットで一手5秒。
ゲーム数=150
スレッド数は0.5秒のと同じ。
結果: 28ブロックから見て、87勝53敗。86.10 ±60.24 ELO
以上、訪問数同等では大幅に28のほうが強く、時間同等でも28のほうが少し強いようです。
Discordに投稿されている検証結果を掲載します。
28ブロック b28c512nbt-s6441963264-d4250916767.bin.gz(4月17日公表の最新ネット)
18ブロック b18c384nbt-s9131461376-d4087399203 (kata1で現時点で最強のネット)
ゲーム数=400
一手あたり5000visits
numSearchThreads = 40 スレッド数によって強度の違いが発生するため、28ブロック、18ブロック共にスレッド数は40を使用。
結果: 28ブロックから見て、327勝73敗。260.49 ±44.85 ELO
同じネットを用いて、今度は一手あたり0.5秒。
ゲーム数=598
28ブロックはnumSearchThreads = 96(RTX4090の推奨値)
18ブロックはnumSearchThreads = 48(RTX4090の推奨値)
結果: 28ブロックから見て、341勝257敗。49.13 ±28.67 ELO
同じネットで一手5秒。
ゲーム数=150
スレッド数は0.5秒のと同じ。
結果: 28ブロックから見て、87勝53敗。86.10 ±60.24 ELO
以上、訪問数同等では大幅に28のほうが強く、時間同等でも28のほうが少し強いようです。
Re: 18Bと28Bの比較
28Bはテストされて時々公表(といってもGoogleドライブ)されているわけですが、これが"Networks for kata1"のようにトレーニングされるようになるのでしょうか?
私はDiscordはときたまチェックしてますが、情報量が多すぎます!
とりあえずリンクを示します
DiscordのKataGoの部
https://discord.com/channels/417022162348802048/583775968804732928
Googleドライブの28Bの部
https://drive.google.com/drive/folders/1p_netnlWcy8K7YoFmKckOeBFRUmokuIp
Networks for kata1
https://katagotraining.org/networks/
私はDiscordはときたまチェックしてますが、情報量が多すぎます!
とりあえずリンクを示します
DiscordのKataGoの部
https://discord.com/channels/417022162348802048/583775968804732928
Googleドライブの28Bの部
https://drive.google.com/drive/folders/1p_netnlWcy8K7YoFmKckOeBFRUmokuIp
Networks for kata1
https://katagotraining.org/networks/
Re: 18Bと28Bの比較
lightvector
—
2024/04/08 00:47
----------------------------------------------------------------------------
In the next few weeks, katagotraining.org will be disabling support for contributing using older KataGo versions v1.13.x. This is so that we can start running rating games and eventually selfplay training games for b28 nets on distributed training, as well as to switch to try some optimistic policy during selfplay.
I also sent out an email about it too. For anyone donating their compute time to KataGo's run, if you have never upgraded to v1.14.0 or v1.14.1 (https://github.com/lightvector/KataGo/releases), please consider doing so whenever convenient within the next weeks, it would be much appreciated. 😋
このような書き込みがありますので、おそらく28Bは分散トレーニングに組み込まれるはずです。
—
2024/04/08 00:47
----------------------------------------------------------------------------
In the next few weeks, katagotraining.org will be disabling support for contributing using older KataGo versions v1.13.x. This is so that we can start running rating games and eventually selfplay training games for b28 nets on distributed training, as well as to switch to try some optimistic policy during selfplay.
I also sent out an email about it too. For anyone donating their compute time to KataGo's run, if you have never upgraded to v1.14.0 or v1.14.1 (https://github.com/lightvector/KataGo/releases), please consider doing so whenever convenient within the next weeks, it would be much appreciated. 😋
このような書き込みがありますので、おそらく28Bは分散トレーニングに組み込まれるはずです。
東工大スパコン「TSUBAME4.0」稼働開始Webブラウザから利用可
森山 和道 2024年4月19日 13:00
TSUBAMEシリーズは以前からNVIDIAのGPUを活用してきた。最新の「TSUBAME4.0」はNVIDIA Hopperアーキテクチャに基づく「NVIDIA H100 TensorコアGPU」をさらにスパコン向けにチューニングした製品を採用。
「TSUBAME4.0」は学内研究者だけでなく、学際大規模情報基盤共同利用・共同研究拠点(JHPCN)や革新的ハイパフォーマンス・コンピューティング・インフラ(HPCI)などの共同利用プログラムを通じて学外研究者や企業研究者などに活用される。
計算ノードにはHPE Cray XD665サーバーを240台採用。1台あたりのプロセッサは第4世代AMD「EPYC 9654」(96コア)を2基、GPUは「NVIDIA H100 SXM5 96 GiB HBM2e」」を4基。メインメモリはDDR5-4800 768GiB。
https://pc.watch.impress.co.jp/docs/news/1585675.html
AIの囲碁将棋大会で利用できれば優勝を狙えそう
TSUBAMEシリーズは以前からNVIDIAのGPUを活用してきた。最新の「TSUBAME4.0」はNVIDIA Hopperアーキテクチャに基づく「NVIDIA H100 TensorコアGPU」をさらにスパコン向けにチューニングした製品を採用。
「TSUBAME4.0」は学内研究者だけでなく、学際大規模情報基盤共同利用・共同研究拠点(JHPCN)や革新的ハイパフォーマンス・コンピューティング・インフラ(HPCI)などの共同利用プログラムを通じて学外研究者や企業研究者などに活用される。
計算ノードにはHPE Cray XD665サーバーを240台採用。1台あたりのプロセッサは第4世代AMD「EPYC 9654」(96コア)を2基、GPUは「NVIDIA H100 SXM5 96 GiB HBM2e」」を4基。メインメモリはDDR5-4800 768GiB。
https://pc.watch.impress.co.jp/docs/news/1585675.html
AIの囲碁将棋大会で利用できれば優勝を狙えそう
OpenAI、東京オフィス開設--3倍高速な「日本語特化型GPT-4」
4/15(月) 15:02配信 CNET Japan
ChatGPT」などを展開するOpenAIは4月15日、東京オフィスの開設を正式発表した。
アジア初となる同オフィスでは採用活動や法人セールス、カスタマーサポートを順次開始するという。
また、日本におけるAIの制度整備にも積極的に参加し、AI活用の普及に尽力するとしている。
https://news.yahoo.co.jp/articles/fcafe72eee0223ab67cb4fcbf77982aa53eae97e
ChatGPT」などを展開するOpenAIは4月15日、東京オフィスの開設を正式発表した。
アジア初となる同オフィスでは採用活動や法人セールス、カスタマーサポートを順次開始するという。
また、日本におけるAIの制度整備にも積極的に参加し、AI活用の普及に尽力するとしている。
https://news.yahoo.co.jp/articles/fcafe72eee0223ab67cb4fcbf77982aa53eae97e
AIにより人間の囲碁のレベルが劇的に向上
AIの登場で人間の囲碁のレベルが劇的に向上していることが明らかになった
囲碁以外でもAIが頭打ちになった分野に成長をもたらす可能性
https://www.henrikkarlsson.xyz/p/go
この日本語解説
https://gigazine.net/news/20240409-ai-go-human-level/
蛇足ですが、上記日本語解説の中で『プロ棋士の差す手の質が』という語彙があります。記事を書く人に将棋の影響が大きいと「指す」となり、逆の場合は将棋の話をしているときに「打つ」と書かれることが多いです。
この記事の場合は「差す」なので、さらに意味不明です(笑)
囲碁以外でもAIが頭打ちになった分野に成長をもたらす可能性
https://www.henrikkarlsson.xyz/p/go
この日本語解説
https://gigazine.net/news/20240409-ai-go-human-level/
蛇足ですが、上記日本語解説の中で『プロ棋士の差す手の質が』という語彙があります。記事を書く人に将棋の影響が大きいと「指す」となり、逆の場合は将棋の話をしているときに「打つ」と書かれることが多いです。
この記事の場合は「差す」なので、さらに意味不明です(笑)