En låda med artificiell intelligens (AI) är en teoretisk låda – till exempel en dator utan extern kontakt – som innehåller ett AI-system och avsedd att hålla AI-systemet åtskilt från världen tills det anses säkert att släppa. Boxen kommer till spel i ett rationellt och simulerat verklighetsexperiment som handlar om AI-systemet som försöker övertyga en människa att släppa det ur lådan. En del av AI-boxfrågan ställer in parametrar för hårdvaran, specifikt att boxen är ett isolerat system som inte kan tas bort från boxen utan mänsklig inblandning. Systemet är vanligtvis smartare än en människa, även om det är isolerat, eftersom vissa AI-system har förmågan att skriva om sin ursprungliga kod. Denna simulering använder normalt två människor, en som fungerar som AI och försöker övertyga den andra personen att släppa ut den.
I AI-box-scenariot är boxen ett isolerat AI-system som inte har någon extern koppling till andra system. Det betyder att det inte finns några nätverk, datorer, internetanslutningar, människor eller något annat som interagerar med boxen innan människan pratar med boxen. Under det här experimentet försöker lådan övertyga personen att släppa den ur lådan, till exempel genom ett utgående nätverk.
Under detta experiment antas det ofta att AI-boxen är smartare än de flesta eller alla människor. Orsaker till detta kan hittas i den verkliga världen, eftersom vissa AI-system kan skriva om sin ursprungliga kodning. Även om dessa AI-system inte har extern interaktion kan de ändra sin kodning för bättre bearbetningshastighet, högre intelligensnivåer och bättre dataförståelse.
När detta experiment inträffar är det normalt mellan två personer. En person agerar som AI-box, medan den andra är den person som bestämmer om boxen ska komma ut. Anledningen till att det här experimentet använder två personer, från och med 2011, är att de flesta AI-system inte kan föra fullständiga och utökade konversationer utan logiska fel, antingen på grund av mänsklig syntax eller missuppfattningar om vad personen säger.
Även om vissa AI-boxexperiment kanske inte har några villkor, finns det vanligtvis vissa villkor som används för att göra experimentet mer realistiskt. Till exempel brukar det finnas en tidsgräns på två timmar, och experimentet kan inte stoppas i förtid om inte AI vinner. Andra vanliga tillstånd inkluderar att AI inte kan erbjuda föremål eller bestraffning för att övertyga personen, de två parterna måste förbli i konstant interaktion och personen kan inte begära något omöjligt från AI-boxen.