Otsustamatu probleem on küsimus, mida ei saa ühe algoritmi abil lahendada. See teema pakub huvi matemaatikas ja arvutiprogrammeerimises, kus lahendamatul probleemil on märkimisväärne mõju. Näiteks Turingi masinate vastu huvi tundvad teadlased on käsitlenud peatamisprobleemi, vaadeldes arvutiprogrammide seiskumise aega, võrreldes seda, millal need lõpmatuseni töötavad. Nagu ka teiste matemaatika väljakutsete puhul, on lisaks uute probleemide tuvastamisele, mida rohkem hinnata ja uurida, palju uurimusi, kuidas lahendada lahendamatuid probleeme.
See teema hõlmab otsustusprobleeme, küsimusi, mille vastused on jah või ei. Matemaatikas esitatakse need sageli valemite kujul. Lihtne näide võib olla “Kas X jagub Y-ga võrdselt reaalarvude korral?” See on otsustatav probleem, sest kui arvutile antakse X või Y väärtused, saab ta küsimusele vastamiseks kasutada algoritmi. Keerulisemaid probleeme ei pruugi kõigi võimalike väärtuste puhul ühe algoritmiga lahendada.
Sellistel juhtudel võib algoritm olla mõne vastuse puhul täpne, kuid ei pruugi vastata teistele väärtustele. Arvestades mõningaid väärtusi, võib algoritm läbida mitmeid samme, et teha kindlaks, kas vastus küsimusele oli jah või ei. Muudel juhtudel ei saaks ta seda teha, kuna tal poleks vajalikku teavet. See on teadaolev probleem mõne maatriksi, keeruka analüüsi ja teatud muude funktsioonidega seotud probleemidega.
Otsustamatu probleemi tuvastamine võib ilmneda matemaatika ja arvutiteaduse uuringute kontekstis. Kui probleem arvatakse olevat otsustamatu, saavad teadlased selle teooria ümberlükkamiseks rakendada erinevaid taktikaid. See võib hõlmata teatud väärtuste jaoks toimivate algoritmide väljatöötamist, probleemi eripärade arutamist, mis muudab võimatuks tõhusa ravi kõigi väärtuste algoritmiga, ja sellega seotud tegevusi. Matemaatika ja arvutiteaduse väljaanded võivad arutada selle valdkonna uusimaid edusamme algoritmide näidetega, mida teadlased on kasutanud lahendamatu probleemi piiride uurimiseks.
Lahendamatu probleem ei ole kaugeltki ainult teoreetilise huvi teema, vaid sellel võib olla reaalsele maailmale oluline mõju. Näiteks esitavad mõned arvutiviirused süsteeme, millel on lahendamatuid probleeme. Süsteemi katse probleemiga toime tulla võib ressursse ära süüa, põhjustades süsteemi külmumise või luues süsteemi haavatavusi. Samamoodi võivad tehnikud tekitada süsteemiga probleeme, esitades sellele tahtmatult probleemi, mida see lahendada ei suuda. Võimalik, et nad peavad programmi või toimingu lõpetama, mis võib põhjustada andmete kadumise.