floating-point operation

「floating-point operation」の例文例文

The floating-point operation produced a small rounding error in the calculation.

その計算では浮動小数点演算によって小さな丸め誤差が生じた。

「floating-point operation」のコアイメージコアイメージ

浮動小数点演算、有限桁で表された小数点数に対する個々の算術操作

「floating-point operation」の英英英英

A single computational step that manipulates floating-point numbers according to arithmetic rules and precision limits;

「floating-point operation」の語源語源

floating-point operationは、'floating'（小数点が位置を変え得る表現）と'operation'（演算）の組合せから成り、個々の算術操作を指して浮動小数点演算と呼ばれる。

「floating-point operation」のコラムコラム

• 浮動小数点演算は単数でFLOPと表され、FLOPSは1秒当たりの浮動小数点演算回数を示す性能指標として使われる。

単語を報告