Contoh harga abstraksi?


Ilmu komputer teoretis telah memberikan beberapa contoh "harga abstraksi." Dua yang paling menonjol adalah untuk eliminasi Gaussian dan sortasi. Yaitu:

  • Diketahui bahwa eliminasi Gaussian optimal untuk, katakanlah, menghitung determinan jika Anda membatasi operasi pada baris dan kolom secara keseluruhan [1]. Algoritma Strassen jelas tidak mematuhi batasan itu, dan secara asimptotik lebih baik daripada eliminasi Gaussian.
  • Dalam penyortiran, jika Anda memperlakukan elemen daftar sebagai kotak hitam yang hanya dapat dibandingkan dan dipindahkan, maka kami memiliki standar informasi-teoretis batas bawah. Namun pohon fusi mengalahkan ikatan ini, sejauh yang saya mengerti, penggunaan multiplikasi yang cerdas.nlogn

Apakah ada contoh lain dari harga abstraksi?

Untuk menjadi sedikit lebih formal, saya mencari contoh di mana batas bawah diketahui tanpa syarat dalam beberapa model komputasi yang lemah, tetapi diketahui dilanggar dalam model yang lebih kuat. Lebih jauh lagi, kelemahan dari model yang lemah harus datang dalam bentuk abstraksi , yang diakui adalah gagasan subyektif. Misalnya, saya tidak menganggap pembatasan sirkuit monoton sebagai abstraksi. Semoga dua contoh di atas memperjelas apa yang saya cari.

[1] KLYUYEV, VV, dan NI KOKOVKIN-SHcHERBAK: Tentang minimalisasi jumlah operasi aritmatika untuk solusi sistem persamaan aljabar linier. Terjemahan oleh GI TEE: Laporan Teknis CS 24, t4 Juni, t965, Jurusan Ilmu Komputer, Universitas Stanford.


3
Saya sangat suka pertanyaan ini; menantikan untuk melihat lebih banyak jawaban.
randomwalker

1
Ada juga biaya abstraksi 'implisit'. Anda menyebutkan contoh harga abstraksi dalam penyortiran, dan bagaimana hasil yang diabstraksi ini tidak berlaku untuk nomor penyortiran (yang sebenarnya dapat dilakukan bahkan dalam O (n) dengan bucketsort dalam beberapa kasus). Batas bawah pada diagram Voronoi sering diturunkan dengan menunjukkan bahwa ada pengurangan waktu linear dari diagram Voronoi untuk menyortir daftar angka. Dan banyak algoritma geometrik menurunkan batas bawah dari batas bawah ini pada komputasi voronoi.
Ross Snider

mengapa ini wiki komunitas?
nanda

1
@anda: Karena tidak ada jawaban yang benar, dan sebenarnya pertanyaan itu dirancang untuk menghasilkan banyak jawaban yang benar, seperti yang saya pikirkan.
Joshua Grochow

1
Sepertinya Anda mungkin benar-benar merujuk pada relaksasi alih-alih abstraksi
vzn

Jawaban:


Contoh indah lainnya dari harga abstraksi: pengkodean jaringan . Diketahui bahwa dalam pengaturan multicast, relasi max-flow-min-cut bukanlah persamaan (primal dan dual tidak cocok). Namun, model tradisional mengasumsikan aliran yang hanya diteruskan dan tidak "diproses" dengan cara apa pun. Dengan pengkodean jaringan, Anda dapat mengalahkan batas ini dengan menggabungkan aliran secara cerdik. Contoh ini adalah motivator yang hebat untuk mempelajari pengkodean jaringan sejak awal.


Pemrograman yang murni fungsional adalah abstraksi populer yang menawarkan, setidaknya menurut para pendukungnya, peningkatan besar dalam kekuatan kode yang ekspresif, di antara manfaat lainnya. Namun, karena ini adalah model mesin yang terbatas - khususnya, tidak memungkinkan memori yang dapat berubah - ini menimbulkan pertanyaan tentang perlambatan asimptotik dibandingkan dengan model biasa (RAM).

Ada utas bagus tentang pertanyaan ini di sini . Kelebihan utama tampaknya:

  1. Anda dapat mensimulasikan memori yang bisa berubah-ubah dengan pohon biner seimbang, jadi perlambatan terburuk adalah O (log n).
  2. Dengan evaluasi yang penuh semangat , ada masalah yang merupakan yang terbaik yang dapat Anda lakukan.
  3. Dengan evaluasi malas , tidak diketahui apakah ada kesenjangan atau tidak. Namun, ada banyak masalah alami yang tidak diketahui algoritma yang berfungsi murni sesuai dengan kompleksitas RAM yang optimal.

Tampaknya bagi saya bahwa ini adalah pertanyaan mendasar yang sangat terbuka.


mengingat bahwa pemrograman fungsional adalah model untuk perhitungan data yang besar (lihat MapReduce), perlambatan ini berpotensi cukup signifikan.
Suresh Venkat

5
Juga, penting untuk diingat bahwa peringatan disebutkan di utas SO. Yaitu, the lebih rendah terikat pada masalah itu sendiri dalam model yang lebih terbatas: online dengan elemen atom. Saya percaya batas bawah dari bentuk itu dalam model standar pemrograman fungsional masih terbuka. Ω(nlogn)
Joshua Grochow

1
Setidaknya, makalah yang disebutkan dalam utas itu ([Bird, Jones dan De Moor, 1997], lihat di sana untuk referensi lengkap) menetapkan kesenjangan antara evaluasi bersemangat dan malas.
Blaisorblade

Untuk perhitungan data yang sangat besar, biaya IO harus mendominasi dengan kuat sehingga perlambatan logaritmik dalam perhitungan tidak menjadi masalah, bukan?
adrianN

Apa yang Anda maksud dengan urutan evaluasi?
Libibo

Sementara pertanyaan Anda berfokus pada teori kompleksitas, hal-hal serupa dapat terjadi di bidang lain seperti teori bahasa pemrograman. Berikut adalah beberapa contoh di mana abstraksi membuat sesuatu yang tidak dapat diputuskan (yaitu batas bawah dalam model yang lemah adalah ketidakmungkinan, sementara model yang kuat memungkinkan algoritma diungkapkan):

  • Dalam kalkulus lambda, ada fungsi yang tidak dapat Anda ungkapkan secara langsung (yaitu, sebagai istilah lambda yang beta-reduksi ke hasil yang diinginkan). Contohnya adalah paralel atau (fungsi dari dua argumen yang mengembalikan mana yang berakhir). Contoh lain adalah fungsi yang mencetak argumennya secara harfiah (fungsi jelas tidak dapat membedakan antara dua argumen yang setara dengan beta). Kurangnya ekspresif adalah karena menegakkan abstraksi bahwa istilah lambda yang setara beta harus diperlakukan secara identik.

  • Dalam bahasa yang diketik secara statis yang hanya memiliki polimorfisme parametrik , seperti ML tanpa ekstensi mewah, mustahil untuk menulis beberapa fungsi - Anda mendapatkan teorema secara gratis . Misalnya, fungsi yang tipenya (apa pun jenis argumennya, kembalikan objek dengan tipe yang sama) harus berupa fungsi identitas atau non-terminating. Kurangnya ekspresi disebabkan oleh abstraksi bahwa jika Anda tidak tahu jenis nilai, itu buram (Anda hanya bisa menyebarkannya).α,αα


4
Seandainya saya bisa memutakhirkan ini beberapa kali.
Jacques Carette

"Harga abstraksi" juga dapat ditemukan ketika memecahkan masalah logaritma diskrit dalam kriptografi. Shoup (1997) telah menunjukkan bahwa pendekatan generik apa pun (yaitu, algoritma yang hanya menggunakan operasi grup) harus menggunakan setidaknya operasi grup, di manamadalah ukuran grup. Ini cocok dengan kompleksitasserangan ulang tahungenerik. Namun, algoritma sepertikalkulus Indeksataualgoritma Pohlig-Hellmanbergantung pada struktur teori bilangan Z Ω(m)m untuk mendapatkan algoritma yang sedikit lebih cepat (setidaknya dalam kelompok urutan halus).Zn

Pengamatan ini adalah salah satu alasan popularitas kriptografi kurva eliptik (berbeda dengan kriptografi dalam kelompok seperti Zn ) karena, pada dasarnya, kita hanya tahu pendekatan generik untuk memecahkan masalah logaritma diskrit dalam kelompok berdasarkan kurva eliptik.


Berikut ini contoh dari algoritma grafik. Diberikan grafik terarah dengan bobot non-negatif di tepinya, masalah jalur kemacetan semua-pasangan adalah menghitung, untuk semua pasangan simpul dan t , aliran maksimum yang dapat didorong sepanjang beberapa jalur dari s ke t . (Secara formal, kami hanya memaksimalkan bobot minimum tepi pada jalur apa pun dari s ke t . Lebih resmi, kami mengganti min dan + dalam definisi semua-pasangan jalur terpendek dengan max dan min .)stststmin+maksmin

Biarkan menjadi jumlah simpul dalam grafik input. Masalah ini diketahui membutuhkan waktu Ω ( n 3 ) dalam model perbandingan jalur Karger, Koller, dan Phillips , sama seperti masalah jalur terpendek semua-pasangan. (Model perbandingan jalur mendukung algoritma tradisional, seperti Floyd-Warshall.) Namun, tidak seperti jalur terpendek semua-pasangan, ternyata jalur kemacetan semua-pasangan dapat diselesaikan dalam waktu kurang dari O ( n 2.8 )nΩ(n3)HAI(n2.8) waktu menggunakan perkalian matriks cepat .


Per diskusi dalam pertanyaan ini , banyak masalah dalam geometri komputasi memiliki batas bawah dalam pohon keputusan aljabar atau model pohon perhitungan aljabar perhitungan, yang berasal dari masalah mendasar seperti penyortiran atau perbedaan elemen . Tidak sulit untuk menemukan makalah yang mengklaim bahwa batas atas O ( n log n ) pada masalah terkait seperti konstruksi triangulasi Delaunay optimal, karena mereka cocok dengan batas bawah ini.Ω(ncatatann)HAI(ncatatann)

Tetapi ketika input ditentukan dalam koordinat Cartesian bilangan bulat (seperti yang sering dalam prakteknya, floating point menjadi tidak cocok untuk geometri komputasi), batas bawah ini tidak cocok dengan model komputasi. Mungkin tidak mengherankan bahwa masalah jenis pencarian jangkauan orthogonal dapat diselesaikan lebih cepat menggunakan teknik yang diadaptasi dari penyortiran bilangan bulat, tetapi bahkan masalah non-ortogonal seringkali dapat memiliki algoritma yang lebih cepat (yang memecahkan masalah dengan tepat, dalam model perhitungan yang memungkinkan aritmatika integer dengan O (1) ) kali ketepatan dari bilangan bulat input). Lihat misalnya arXiv: 1010.1948 untuk satu set contoh.


Terima kasih telah menyoroti "paradoks", dan tulisan terbaru oleh Chan dan Pǎtraşcu.
András Salamon

Ada banyak contoh dalam kriptografi, terutama bukti tanpa pengetahuan. Lihat misalnya, tesis:

Boaz Barak, Teknik Non-Kotak Hitam dalam Kriptografi, 2003.

(Kebetulan, judul tesis memberikan bukti nol-pengetahuan tentang validitas komentar ini :)


Harap perbaiki tahun kutipan dari 2006 hingga 2003.
MS Dousti

@ Sadq Dousti: selesai. Ini wiki masyarakat dan Anda memiliki lebih reputasi dari saya, jadi saya kira Anda bisa dikoreksi bahwa diri ;-)
Blaisorblade

Pohon Keputusan Aljabar digunakan sebagai dasar dalam geometri komputasi untuk menunjukkan banyak masalah sederhana seperti Elemen Keunikan adalah . Batas bawah ini kemudian digunakan untuk menunjukkan masalah yang lebih rumit seperti Diagram Voronoi juga memiliki batas bawah Ω ( n log n ) . Saya kemudian terkejut membaca O ( n )Ω(ncatatann)Ω(ncatatann)HAI(n)algoritma waktu yang diharapkan untuk memecahkan pasangan poin terdekat di pesawat, yang merupakan generalisasi dari Elemen Uniqueness. Itu lolos dari Pohon Keputusan Aljabar terikat dengan menggunakan hashing. Saya menemukannya di buku Algoritma Desain karya Klein dan Tardos. Ada algoritma yang serupa tetapi lebih rumit untuk menyelesaikan masalah yang sama yang dijelaskan di blog RJ Lipton .

Referensi:


k3k3 pewarnaan -siklus yang tepat; setiap simpul siklus adalah prosesor.

kΩ(k) untuk jumlah komunikasi putaran.

Namun, abstraksi ini bisa dibilang salah: jika Anda dapat mengirimkan sesuatu dalam jaringan komunikasi, Anda akan memiliki beberapa cara untuk menyandikan "sesuatu" sebagai serangkaian bit. Dan sekarang segalanya mulai terlihat jauh lebih baik.

1,2,...,kHAI(catatank)1,2,...,1010kHAI(catatank)

HAI(catatank)Ω(k)


Contoh yang muncul di pikiran saya adalah perhitungan volume. Hasil oleh Barany dan Furedi adalah bahwa Anda memerlukan jumlah kueri eksponensial dan ada algoritma waktu polinomial acak oleh Dyer-Frieze-Kannan . Kesenjangan mewakili hadiah abstraksi dan juga manfaat dari keacakan tetapi saya pikir alasan utama untuk kesenjangan adalah harga abstraksi. (Saya harap saya mengerti pertanyaannya dan berjalan ke arah yang benar.)


Ini mungkin bukan yang Anda pikirkan. Tetapi dalam arti tertentu, independensi P vs NP dari nubuat adalah contoh seperti itu. Apa yang sebenarnya dikatakannya adalah bahwa jika yang Anda pedulikan hanyalah simulasi dan enumerasi, (yaitu jika itu adalah "model" perhitungan Anda), maka Anda tidak dapat memisahkan kelas-kelas ini atau menghancurkannya.

Contoh algoritmik yang lebih konkret berasal dari perkiraan kisaran pencarian di arah "terbalik". Secara khusus, sebagian besar masalah pencarian jangkauan diringkas sebagai jumlah semi-grup, dan batas bawah / atas diekspresikan tanpa memperhatikan struktur semi-grup ini (kecuali untuk beberapa kondisi teknis ringan). Karya terbaru oleh Arya, Malamatos dan Mount menunjukkan bahwa jika Anda melihat lebih dekat pada struktur semi-grup (properti idempoten dan integral), maka Anda dapat membuktikan batas yang berbeda (dan lebih kencang) untuk perkiraan kisaran pencarian.


4
XPXNPXPNPPX=NPXNP=cHaiNP. Pekerjaan mereka agak kontroversial (saya pikir itu mengalami masalah relativizing kelas terbatas ruang kecil) tapi saya pikir itu sangat menarik.
Joshua Grochow

Teorema pengambilan sampel Shannon-Nyquist mengusulkan suatu kondisi yang memadai untuk batasan teoritik informasi tentang komunikasi. Teori sampel dikerjakan di sekitar contoh-contoh di mana sinyal yang masuk memiliki representasi kompak / acak. Kemajuan terbaru dalam pengambilan sampel menunjukkan bahwa abstraksi ini mungkin datang dengan harga - bahwa hal-hal yang kami tertarik untuk mengukur umumnya memiliki representasi yang jarang sehingga batas-batas ini tidak ketat. Selain itu, informasi dapat dikodekan dengan cara yang jauh lebih padat daripada yang diperkirakan sebelumnya.

  • Kode koreksi kesalahan menunjukkan bahwa beberapa evaluasi ulang batas Shannon dalam lanskap jaringan yang dikenakan noise.
  • Bidang baru penginderaan tekan mendorong rekonstruksi varietas gambar yang kami temukan jauh di luar batas Shannon.

Bisakah Anda memberikan beberapa referensi untuk ini :)?
Vivek Bagaria

Banyak masalah menarik yang muncul oleh ilmu-ilmu alam ternyata NP-hard dalam arti klasik. Meskipun gagasan ini secara teori sangat sah, gagasan ini tidak membantu ahli biologi atau ahli fisika dengan cara apa pun. Kami menemukan bahwa beberapa masalah NP-hard dapat diperbaiki dengan parameter tetap dan seringkali dengan parameter yang diamati terikat oleh konstanta kecil di dunia nyata.

Yaitu, TCS memberi tahu kita bahwa kita tidak mengharapkan solusi yang efisien untuk masalah abstrak tetapi kita dapat memecahkan contoh yang sebenarnya terjadi dengan cepat - cukup banyak celah.


Dalam makalah ini http://www.mimuw.edu.pl/~szymtor/papers/atom-turing.pdf kami mempelajari Mesin Turing yang memiliki akses terbatas ke data. Ini diformalkan sebagai tidak berubah di bawah automorfisme dari struktur relasional; misalnya, dalam batas bawah O (n log n) untuk menyortir, Anda akan mengatakan bahwa mesin dapat memproses dan menyimpan bilangan rasional, tetapi transisinya harus tidak berubah di bawah automorfisme (Q, <), yaitu biopsi monoton. Definisi formal lebih rumit, untuk menentukan dengan tepat jenis struktur data apa yang dapat disimpan mesin dalam memorinya (harus "terbatas"
dalam beberapa hal, tetapi kami mengizinkan untuk menyimpan struktur yang lebih rumit daripada hanya tupel nilai data, seperti tuple yang tidak terurut).

Dalam makalah kami membuktikan beberapa batas bawah untuk mesin Turing lainnya dengan "akses data terbatas". Secara khusus, kami menunjukkan bahwa:

• Mesin Turing deterministik yang dapat menangani vektor (katakanlah pada bidang dua elemen), tetapi hanya dapat menggunakan tes vektor dan persamaan tambahan, tidak dapat menentukan dalam waktu polinomial apakah daftar vektor yang diberikan bergantung secara linear (secara formal, transisi mesin harus menjadi invarian di bawah automorfisme ruang vektor). Ini bertentangan dengan mesin nondeterministic, yang dapat dengan mudah menebak kombinasi vektor yang menambahkan hingga 0. Perhatikan bahwa eliminasi Gaussian berjalan dalam waktu polinomial, tetapi memiliki akses ke koordinat vektor; khususnya, transisinya tidak invarian di bawah automorfisme ruang vektor.

• Dalam model yang ditentukan dengan tepat, Mesin Turing yang dapat membandingkan bilangan alami hanya sehubungan dengan kesetaraan (bahkan <) tidak dapat ditentukan. Di sini, kami mempertimbangkan struktur relasional (N, =) dan mesin yang tidak berubah di bawah automorfismenya. Ada konstruksi (mirip dengan konstruksi Cai-Furer-Immerman dari Teori Model Hingga) yang menunjukkan bahwa pada kenyataannya, dalam model ini P ≠ NP. Mengizinkan mesin untuk membandingkan angka menggunakan <memberi mereka kekuatan yang cukup untuk menentukan.


Harga umum abstraksi hadir dalam kerangka kotak hitam seperti kompleksitas pohon keputusan atau kompleksitas kueri kuantum. Jika kita membatasi analisis untuk model-model ini, maka kita sering dapat menemukan batasan yang sangat baik pada kompleksitas tugas. Bahkan, untuk kueri kuantum kita pada dasarnya dapat menyelesaikan kompleksitas masalah karena metode musuh negatif memberikan batas bawah yang ketat (dalam faktor log n / loglog n: 1005.1601 ). Ini memberi kami alat yang hebat untuk menganalisis kompleksitas kueri, tetapi seringkali menjadi sulit untuk membandingkan kompleksitas kueri dengan kompleksitas waktu / ruang mesin turing-mesin yang lebih standar (kecuali sebagai batas bawah mentah).


Apakah Anda memiliki beberapa contoh spesifik di mana ini menunjukkan batas bawah yang dapat dipatahkan dengan "membuka kotak hitam"?
Joshua Grochow

well sorting adalah contoh di mana model pohon keputusan memberi Anda n log n, tetapi Anda bisa menjadi lebih baik dengan melihat struktur input.
Suresh Venkat

@ Suresh: Maksud saya contoh yang belum disebutkan :).
Joshua Grochow

maaf - salahku
Suresh Venkat

Yah, kadang-kadang Anda dapat memiliki kompleksitas permintaan kuantum yang relatif bagus tetapi tidak ada algoritma yang berjalan cepat. Contohnya adalah masalah subkelompok tersembunyi di mana kita memerlukan jumlah kueri polinomial, tetapi masih waktu eksponensial (meskipun jelas batas waktu yang lebih rendah tidak terbukti) untuk algoritma yang dikenal [1]. Ini harga yang berlawanan arah, kurasa. [1] arxiv.org/abs/quant-ph/0401083
Artem Kaznatcheev

Berikut adalah dua contoh, keduanya terkait dengan model kontinu vs diskrit:

  1. [0,1]xyx<yx=yx>yx|x-y|y=x

    y[0,1]y=x

  2. Motivasi untuk masalah A berasal dari masalah pembagian kue tanpa rasa iri . Stromquist menunjukkan , bahwa tidak ada protokol yang terbatas (bahkan jika tidak terikat) dapat menjamin pembagian kue yang bebas dari rasa iri di antara tiga pemain atau lebih, jika setiap pemain menerima satu bagian yang terhubung.

    sayaαsayaxvsaya(0,x)=α "," dan bukan untuk kasus di mana, misalnya, beberapa mediator memiliki informasi lengkap tentang fungsi penilaian pemain dan mengusulkan pembagian berdasarkan informasi ini ".

    Selain itu, hasilnya tidak berhubungan dengan algoritma dengan operasi yang berkelanjutan, seperti prosedur pisau bergerak.


Ketika diekspresikan dalam logika orde pertama, bukti prinsip pigeonhole untuk fix n adalah panjang eksponensial. Namun, dengan aritmatika buktinya dapat diungkapkan jauh lebih ringkas.

Keberhasilan pemecah SMT berasal dari mundur dari model abstrak mengurangi masalah menjadi SAT, memungkinkan teori yang lebih kaya untuk sangat mengurangi jumlah perhitungan yang dibutuhkan.

Dengan menggunakan situs kami, Anda mengakui telah membaca dan memahami Kebijakan Cookie dan Kebijakan Privasi kami.
Licensed under cc by-sa 3.0 with attribution required.