TCPの限界を名誉教授が指摘。AIクラスターは1ミリ秒の遅延すら許されない時代か
この手の話題は過去に何度見たことあるけど、普及しないのが常だが、研究だけじゃなくて実際に Linux とか標準化への働きかけもしてるっぽいし、どうなるか。
話は聞かせてもらった!UDPを使おう!(聞いてない)
ホーマー?そもそもAIDCでTCPなんか使ってんの?
TCPの責務の大半は公平性の確保なので、全体がコントローラブルなDC内なら好きにすればいいのでは。ということでUDPで好きにしなはれ、と。
SCTPみたいな名前のやつなかったっけ
"TCP IS DEAD"とか、余計な一言なんだよ。TCPと並行運用できると自ら言ってるくせに。
テレビ電話できそう
"オースターハウト氏がThe Registerに示した100Gbps・ネットワーク使用率80%という条件での比較では、短いメッセージの99パーセンタイル遅延がTCPでは1.2ミリ秒だったのに対し、Homaでは92マイクロ秒でTCPの約13分の1だった"
RUDPでQoSやんのと何が違うん?
AIデータセンターの中の通信って、NVIDIAの独自プロトコルで動いてんじゃねーの?
UDPとかQUICとかでどうにかならないのかな?
TCPはSlowStartだし再送回数のデフォルトが多いしで、DC内の通信には向かない気がしてた。
光回線が普及し始めた2000年代初めに「光にすると何が変わるの?」「ブラクラの開く速さが光」みたいなコピペがあった。今回のこれもAIによる攻撃が超高速になるのかなと思ったりした。
NetBEUI「話は聞かせてもら…ゲホッゲホッ」
HomaはUDP上ではなく、別のIPプロトコルで実装されてるのはすごいなあ。UDPのオーバーヘットすら嫌ということなのかもしれない。
?
TCPに代わる通信プロトコル「Homa」をスタンフォード大学名誉教授が提唱、AI時代は1ミリ秒の遅延でもGPUが待たされる
TCPの限界を名誉教授が指摘。AIクラスターは1ミリ秒の遅延すら許されない時代か
この手の話題は過去に何度見たことあるけど、普及しないのが常だが、研究だけじゃなくて実際に Linux とか標準化への働きかけもしてるっぽいし、どうなるか。
話は聞かせてもらった!UDPを使おう!(聞いてない)
ホーマー?そもそもAIDCでTCPなんか使ってんの?
TCPの責務の大半は公平性の確保なので、全体がコントローラブルなDC内なら好きにすればいいのでは。ということでUDPで好きにしなはれ、と。
SCTPみたいな名前のやつなかったっけ
"TCP IS DEAD"とか、余計な一言なんだよ。TCPと並行運用できると自ら言ってるくせに。
テレビ電話できそう
"オースターハウト氏がThe Registerに示した100Gbps・ネットワーク使用率80%という条件での比較では、短いメッセージの99パーセンタイル遅延がTCPでは1.2ミリ秒だったのに対し、Homaでは92マイクロ秒でTCPの約13分の1だった"
RUDPでQoSやんのと何が違うん?
AIデータセンターの中の通信って、NVIDIAの独自プロトコルで動いてんじゃねーの?
UDPとかQUICとかでどうにかならないのかな?
TCPはSlowStartだし再送回数のデフォルトが多いしで、DC内の通信には向かない気がしてた。
光回線が普及し始めた2000年代初めに「光にすると何が変わるの?」「ブラクラの開く速さが光」みたいなコピペがあった。今回のこれもAIによる攻撃が超高速になるのかなと思ったりした。
NetBEUI「話は聞かせてもら…ゲホッゲホッ」
HomaはUDP上ではなく、別のIPプロトコルで実装されてるのはすごいなあ。UDPのオーバーヘットすら嫌ということなのかもしれない。
?