Einzelnen Beitrag anzeigen

marabu

Registriert seit: 6. Apr 2005
10.109 Beiträge
 
#12

Re: Auf einen standartisierten Wert aufrunden

  Alt 2. Mär 2006, 20:05
Hallo Leute,

ein paar Anmerkungen noch. Es handelt sich hier um eine E24 Widerstandsdekade. Naturgemäß fallen nicht alle R-Werte in die gewählte Dekade. Deshalb müssen die Ausgangswerte zuerst auf die Dekade normiert werden. Ist der gesuchte Wert größer als das Maximum der Dekade, dann ist das Minimum der nächst höheren Dekade der gewünschte Wert.

Die Abbildungsfunktion macht es erforderlich, dass, wird der gesuchte Wert nicht gefunden, der Nachfolger geliefert wird. Das ist dann genau der Wert mit dem Index "lower bound".

Werden trotz allem falsche Werte geliefert, dann liegt es an Rechenungenauigkeiten durch Verwendung von Fließkommazahlen.

Grüße vom marabu
  Mit Zitat antworten Zitat