AGB  ·  Datenschutz  ·  Impressum  







Anmelden
Nützliche Links
Registrieren

großer extended

Ein Thema von theomega · begonnen am 25. Jun 2002 · letzter Beitrag vom 15. Jul 2002
Antwort Antwort
Seite 2 von 2     12
Daniel
(Co-Admin)

Registriert seit: 30. Mai 2002
Ort: Hamburg
13.919 Beiträge
 
Delphi 10.4 Sydney
 
#11

Re: großer extended

  Alt 14. Jul 2002, 23:13
Zitat von theomega:
Bei Funktionen wie x hoch 2 und einem x von 350 ist ein extended einfach zu klein.
Also - das kann ich einfach nicht begreifen. 350 ^2 ist doch nichts anderes als 350 * 350. Und das ist nach dem Windows-Taschenrechner genau 122500. Bei Werten dieser Größenordnung gibt es keine Probleme mit dem Datentyp Extended. Wirklich nicht .
Selbst wenn wir es umdrehen und 2 ^350 daraus machen, so erhält man 2.3 * 10^105. Und selbst das lässt sich mit dem Datentyp "extended" darstellen. Der Wertebereich laut D6-Hilfe: "3.6 x 10^–4951 .. 1.1 x 10^4932". Das entspricht etwa einer 10 mit 4900 Nullen! Ohne Frage gibt es Anwendungsfälle, in denen man mehr Stellen braucht, aber bei so großen Zahlen werden die Nachkommastellen absolut irrelevant...

Grüße,
Daniel
Daniel R. Wolf
  Mit Zitat antworten Zitat
Benutzerbild von theomega
theomega

Registriert seit: 18. Jun 2002
684 Beiträge
 
#12
  Alt 15. Jul 2002, 11:33
Ich habe das falsch angesehen, es liegt nicht am extended sondern am paintbox, die hat probleme mit Linien die weit im negativbereich liegen.
  Mit Zitat antworten Zitat
Themen-Optionen Thema durchsuchen
Thema durchsuchen:

Erweiterte Suche
Ansicht

Forumregeln

Es ist dir nicht erlaubt, neue Themen zu verfassen.
Es ist dir nicht erlaubt, auf Beiträge zu antworten.
Es ist dir nicht erlaubt, Anhänge hochzuladen.
Es ist dir nicht erlaubt, deine Beiträge zu bearbeiten.

BB-Code ist an.
Smileys sind an.
[IMG] Code ist an.
HTML-Code ist aus.
Trackbacks are an
Pingbacks are an
Refbacks are aus

Gehe zu:

Impressum · AGB · Datenschutz · Nach oben
Alle Zeitangaben in WEZ +1. Es ist jetzt 17:42 Uhr.
Powered by vBulletin® Copyright ©2000 - 2024, Jelsoft Enterprises Ltd.
LinkBacks Enabled by vBSEO © 2011, Crawlability, Inc.
Delphi-PRAXiS (c) 2002 - 2023 by Daniel R. Wolf, 2024 by Thomas Breitkreuz