Monet tutkijat ja kehittäjät pelkäävät, että alati oppiva tekoäly ottaa ja riistäytyy hallinnasta. Tätä varten pitäisi olla itsetuhonappi, jolla rajojaan rikkova keinomieli taltutetaan välittömästi. Käytännössä tämä olisi käskysarja, jonka kuultuaan tekoäly luovuttaa kaiken päätöksenteon ja rutiiniensa hallinnan ihmisille.

Googlen omistama tekoälylaboratorio DeepMind kehitteli juurikin tällaista systeemiä jo vuonna 2014. Sen tavoitteena oli tehdä eräänlainen etälamautin, jolla riehuva tekoäly lopettaa toimintansa. Sen jälkeen sitä operoiva ihminen voi ”taluttaa sen turvallisempaan tilanteeseen”.

Kehittäjät olivat kuitenkin huolissaan tilanteesta, jossa tekoäly oppii poistamaan moiset itsetuhonapit käytöstä ja kutsuivat tällaista tilannetta ”ei-toivotuksi lopputulokseksi”. Kuten The Verge toteaa, tämä termi on varsin lievä ilmaus tilanteelle, jossa tekoäly jättää tottelematta käskyjä ja riistäytyy valloilleen.