Pertanyaan yang diberi tag «precision»

Masalah yang terkait dengan representasi jumlah numerik dalam representasi terbatas dalam basis tertentu berbeda dari nilai matematika eksaknya.

Apakah ada pemecah pemrograman nonlinier berkualitas tinggi untuk Python?
Saya memiliki beberapa masalah optimisasi global non-cembung yang menantang untuk dipecahkan. Saat ini saya menggunakan MATLAB's Optimization Toolbox (khusus, fmincon()dengan algoritma = 'sqp'), yang cukup efektif . Namun, sebagian besar kode saya menggunakan Python, dan saya ingin melakukan optimasi dengan Python juga. Apakah ada pemecah NLP dengan binding Python yang …




Cara komputasi yang stabil secara numerik antara vektor
Saat menerapkan rumus klasik untuk sudut antara dua vektor: α=arccosv1⋅v2∥v1∥∥v2∥α=arccos⁡v1⋅v2‖v1‖‖v2‖\alpha = \arccos \frac{\mathbf{v_1} \cdot \mathbf{v_2}}{\|\mathbf{v_1}\| \|\mathbf{v_2}\|} orang menemukan bahwa, untuk sudut yang sangat kecil / akut, ada kehilangan presisi dan hasilnya tidak akurat. Seperti yang dijelaskan dalam jawaban Stack Overflow ini , salah satu solusinya adalah menggunakan arctangent sebagai gantinya: …

Mengapa sistem linear yang dikondisikan dengan buruk dapat diselesaikan dengan tepat?
Menurut jawaban di sini , angka kondisi besar (untuk penyelesaian sistem linier) mengurangi jumlah digit yang benar dalam solusi floating point. Matriks diferensiasi orde tinggi dalam metode pseudospectral biasanya sangat dikondisikan. Mengapa saat itu mereka masih merupakan metode yang sangat akurat? Saya memahami bahwa presisi rendah yang berasal dari matriks …

Presisi floating-point tunggal versus ganda
Angka floating point presisi tunggal mengambil setengah memori dan pada mesin modern (bahkan pada GPU tampaknya) operasi dapat dilakukan dengan mereka pada kecepatan hampir dua kali lipat dibandingkan dengan presisi ganda. Banyak kode FDTD yang saya temukan secara eksklusif menggunakan aritmatika dan penyimpanan presisi tunggal. Apakah ada aturan praktis tentang …



Diagonalisasi Matriks Pengkondisian Padat
Saya mencoba mendiagonalisasi beberapa matriks yang padat dan tidak terkondisikan. Dalam presisi mesin, hasilnya tidak akurat (mengembalikan nilai eigen negatif, vektor eigen tidak memiliki simetri yang diharapkan). Saya beralih ke fungsi Mathematica Eigensystem [] untuk mengambil keuntungan dari presisi yang berubah-ubah, tetapi perhitungannya sangat lambat. Saya terbuka untuk sejumlah solusi. …

Mewakili angka Eisenstein tanpa pelampung
Saya punya proyek di mana saya perlu menggunakan bidang kuadrat Khususnya angka dari bentuk dengansebuah,b∈Q.a + b - 3---√a+b−3a + b \sqrt{-3}a,b∈Qa,b∈Qa,b \in \mathbb{Q} Misalnya di sini adalah bilangan prima dalam bilangan bulat Eisenstein : Saya tidak ingin menggunakan bijak. Saya ingin menulis tipe data saya sendiri untuk dimasukkan numpy. …

Aritmatika floating-point presisi lebih tinggi dalam PDE numerik
Saya mendapat kesan, dari sumber daya yang sangat berbeda dan pembicaraan dengan para peneliti, bahwa ada peningkatan permintaan untuk perhitungan presisi tinggi dalam persamaan diferensial parsial numerik. Di sini, presisi tinggi berarti lebih presisi daripada hanya presisi ganda 64bit standar. Saya bertanya-tanya tentang seni topik ini. Sebagai perbandingan, ada komunitas …
Dengan menggunakan situs kami, Anda mengakui telah membaca dan memahami Kebijakan Cookie dan Kebijakan Privasi kami.
Licensed under cc by-sa 3.0 with attribution required.