計算の桁数の精度

26 Jun 2020
0 Answers
3 Views (30 days)

0 votes

digit(12) で12桁を指定して作った複素数行列
NN1 = vpa(Zn./ZS)
NL1 = vpa(Zl./ZS)
(Zn, ZS, Zl も複素数）があるのですが、これらに関して
>> NN1(500)
ans =
- 9.29055970603e-17 + 3.76968885557e-17i
>> NL1(500)
ans =
- 9.29055970603e-17 + 3.76968885557e-17i
となっていて、同じ値のように見えるのですが、引き算をすると以下のように、差があるのはなぜでしょうか。
>> NN1(500)-NL1(500)
ans =
8.87468518374e-31 - 7.39557098645e-32i

Sign in to answer this question.

Answers (0)

Categories

Find more on Logical in Help Center and File Exchange

Products

Release

R2018a

Tags

Asked:

rika yamada
rika yamada
on 26 Jun 2020

Community Treasure Hunt

Find the treasures in MATLAB Central and discover how the community can help you!

Start Hunting!