Спочатку був відомий як «Магічний кубик».
1974 видався непростим для доцента Будапештській академії прикладного мистецтва Ерне Рубіка. Вкотре він безуспішно намагався зацікавити математикою студентів свого курсу. Із завидною впертістю вони протистояли старанням тридцятирічного викладача, а коли справа дійшла до математичної теорії груп – і зовсім стали ігнорувати його лекції. Вирішивши привабити студентів використанням наочних посібників, Ерне проводив багато часу в спробах знайти спосіб візуалізації досить нудної, взагалі-то, теорії. Одна з розроблених моделей здалася йому особливо вдалою. Це були 27 кубиків, кожна сторона яких була розфарбована в свій колір. Винахідливий викладач планував супроводжувати свої пояснення рішенням простого, на перший погляд, завдання: кубики потрібно було розташувати так, щоб вийшов куб, кожна сторона якого виявилася б пофарбована своїм кольором. Але досягти мети виявилося несподівано непросто. Ситуація погіршувалася відсутністю механізму, який об'єднував би елементи моделі в єдине ціле.
У пошуках оптимальної конструкції Ерне провів не одну годину. Зрештою рішення було знайдено: місце одного з кубиків зайняла хрестовина, на яку нагвинчуються центральні елементи граней куба. Решта складових системи зачіпляються за них за допомогою хитромудрої системи кріплень. У 1975 році Ерне Рубік запатентував свій навчальний наочний посібник, і через короткий час його аудиторія наповнилася слухачами, які, втім, захопилися не так теорією груп, скільки небаченої головоломкою, експерименти з якої незмінно супроводжували лекції.
Розуміючи, що його наочна модель виявилася на рідкість вдалою іграшкою, Ерне вирішує випускати її для продажу. Так почався тріумфальний хід Магічного Куба (саме так називалася тоді головоломка). Через зовсім небагато часу іграшка стала неймовірно популярною, та так, що виробники були фізично не в змозі задовольнити попит. На початку 80-х кожен хотів мати заповітний кубик, і дійшло до того, що головоломку включили в список обов'язкових предметів сервірування столів у ресторанах. Ажіотаж кращим чином позначився на становищі удачливого винахідника – він став першим офіційним доларовим мільйонером пострадянського простору. І хоча з часом популярність іграшки пішла на спад, вона і зараз залишається найпоширенішою головоломкою у світі.