卡拉OK最早是起源于日本，由于日本的風俗，男人如果回家過早的話，會讓鄰居們看不起，認為天天工作連個應酬都沒，每天回家的太早成了旁人笑話的把柄，所以許多日本男人就在下班后聚集在酒吧或茶館，聊天到很晚才回家，后來慢慢的他們覺得應該找點什么新的消磨時間的項目，就在酒吧里面邊喝酒邊用上電視機話筒等簡單的可以用來唱歌的東西，后來隨著科技的發展演變成現在的卡拉OK，后來傳入臺灣，再由臺灣傳入大陸，有了今天的卡拉OK的景象。

卡拉OK日文原意是“無人伴奏樂隊”，60年代是井上大佑先生年輕時在日本兵庫縣西宮市擔任沙龍樂隊鼓手的年代，發明的伴唱聲軌和可攜式麥克風。不到三年，卡拉OK開始大行其道，大公司紛紛剽竊井上的創意，推出自己的機型。等有人建議他申請專利時，已經為時太遲。井上承認：“我從沒想過申請專利。”

這個概念早在1971年井上發明8-Juke(八聲道點唱機)前就已存在，而8-Juke是一個紅、白顏色的木箱，裝配了麥克風、放大器和八音軌的卡帶播放機，儀表板則以英文標示，以便看起來"時髦"些。井上以這部原型卡拉OK作為無歌手樂隊的鼓音伴奏，在沙龍中接受想唱歌的顧客點歌時播放。后來他又想到，可以借機器來達到伴奏的功能。井上說：“我是樂隊里最差的一個，我完全沒有音樂技術可言，所以他們讓我擔任樂隊經理。我想，為什么不用機器來代替我們所做的?”在他的鼓吹下，六位樂隊成員組成一家叫作“新月”的公司，生產了11部8-Juke伴唱機，并出租給當地的酒吧，讓想唱歌的人花100日圓(0。83美元)藉電視機大小的唱機點播放一首伴奏。這個價錢在當時相當高，但自得其樂的消費者很肯花這種錢。井上說：“沒有卡拉OK，幾乎不可能像專業歌手那樣在完整的背景樂隊伴奏下唱歌。在以前，那是夢想。”30年后，卡拉OK已成為世界性的家庭用語。

新月公司與大企業奮戰到1987年，不斷推出更新、性能更好的卡拉OK伴唱機，然而激光唱片技術誕生后，他終于宣布放棄。井上大佑曾被美國時代雜志選為亞洲最具影響力的人物，與甘地和毛澤東相提并論。他說，他不后悔損失專利權，而即使專利權讓他在1980年代大發利市，他也很可能過度擴張到其它投資，使他在日本經濟衰退后留下大筆債務。

井上說：“我從未買過土地、股票、高爾夫俱樂部會員證，什么都沒有。除了參加葬禮外，我從不穿西裝、打領帶。”