Strona: [  << <   1   > >>  ]  z  1     
Autor Temat: [Excel]Bez prawny "Overflow" (przepełnienie)
mikmas
From Łódź Stadt




Typ: neutral
Postów: 772
Zarejestrowany: Apr 2003
[Excel]Bez prawny "Overflow" (przepełnienie)

Napisałem se programik w excelu do obliczania współczynnika zmienności. Wszystko u mnie działa (wpisałem 120 pomiarów i extra). Natomiast u mamy w pracy nie działa - wywala Overflowa. Ilość pomiarów to Integer każdy pomiar to tablica Long. Nie wiem, czy coś to komuś pomoże, ale komputer tamten ma 64mB ram i 1gB na dysiorze - już dość zapchany - może poprostu zmienne się nie mieszczą? Proszę o jak najszybszą pomoc!


_____________________________________________
4C;65;70;69;65;6A;20;62;79;9C;20;73;69;EA;20;
62;61;72;64;7A;69;65;6A;20;73;6B;6F;6E;63;65;
6E;74;72;6F;77;61;B3;20;6E;61;20;6F;64;70;6F;
77;69;65;64;7A;69;2C;20;61;20;6E;69;65;20;6E;
61;20;72;6F;7A;73;7A;79;66;72;6F;77;79;77;61;
6E;69;75;20;3A;50

30-03-2005 22:24
Pokaż profil mikmas  Wyślij email do mikmas   Odwiedź stronę mikmas       3632553
anonim




Typ: Nie zarejestrowany

proponuje zminic typ zmiennej dla ilosci pomiarow z Integer na Long
Integer moze zawierac liczby z zakresu:
od -32 768 do 32 767
a Long:
od -2 147 483 648 do 2 147 483 647
prawdopodobnie na tym drugim komputerze wykonywana jest wieksza ilosc pomiarow (nie podales informacji o ilosci pomiarow na drugim komputerze)

pozdrawiam daras

07-04-2005 08:18
  
mikmas
From Łódź Stadt




Typ: neutral
Postów: 772
Zarejestrowany: Apr 2003

Tzn. liczba pomiarów spokojnie by się zmieściła w Byte, ale znalazłem błąd. Mama nie w tą kolumnę wpisywała . Kolumna, z której program ściągał pomiary była pusta

[Post edytowany dnia 07-04-2005 13:36 przez mikmas]


_____________________________________________
4C;65;70;69;65;6A;20;62;79;9C;20;73;69;EA;20;
62;61;72;64;7A;69;65;6A;20;73;6B;6F;6E;63;65;
6E;74;72;6F;77;61;B3;20;6E;61;20;6F;64;70;6F;
77;69;65;64;7A;69;2C;20;61;20;6E;69;65;20;6E;
61;20;72;6F;7A;73;7A;79;66;72;6F;77;79;77;61;
6E;69;75;20;3A;50

07-04-2005 13:36
Pokaż profil mikmas  Wyślij email do mikmas   Odwiedź stronę mikmas       3632553
Wszystkich odpowiedzi: 2 :: Maxymalnie na stronę: 20
Strona: [  << <   1   > >>  ]  z  1