Mysql
 sql >> Baza danych >  >> RDS >> Mysql

mysql dokładność mnożenia dziesiętnego i tinyint

Uważam, że nie ma dokładnej straty, gdy mnoży się liczbę dziesiętną przez liczbę całkowitą. Zobacz Przykłady matematyki precyzyjnej . Zrobiłem też mały eksperyment, aby zobaczyć różnicę między liczbą zmiennoprzecinkową a dziesiętną:

SELECT .1E0 * .1E0, 
       .1 * .1, 
       (.1E0 * .1E0) * 10, 
       (.1 * .1) * 10

Dane wyjściowe to

0.010000000000000002          << .1E0 * .1E0
0.01                          << .1 * .1
0.10000000000000002           << (.1E0 * .1E0) * 10
0.10                          << (.1 * .1) * 10


  1. Database
  2.   
  3. Mysql
  4.   
  5. Oracle
  6.   
  7. Sqlserver
  8.   
  9. PostgreSQL
  10.   
  11. Access
  12.   
  13. SQLite
  14.   
  15. MariaDB
  1. Klucze podstawowe MySQL:UUID / GUID vs BIGINT (znacznik czasu+losowy)

  2. mysqli wiążą zmienne

  3. mysql cross join, ale bez zduplikowanej pary?

  4. Zapytanie SQL, które zwraca tabelę, w której każdy wiersz reprezentuje datę z danego zakresu

  5. Jak używać Relation::morphMap() dla różnych klas