Vroege geschiedenis
Reeds in de late 12e eeuw verplaatste de machtige leider Taira no Kiyomori de hoofdstad van Japan van Kyoto naar Fukuwara, het huidige Fukuwara district van Japan. Hij wilde dat het zou dienen als handels- en politiek centrum van Japan. Kiyomori vertrouwde zijn politieke invloed op de handel tussen Japan en China. Maar zijn plan mislukte en Kobe bleef lange tijd een klein dorp.
Latere geschiedenis
Het gebied van Kobe werd uitgebreid en vandaag omvat het de Maya berg, het Sumaura park, het Sumaike park met een goed kuuroord en het beroemde Arima kuuroord. Het Arima kuuroord is een van de oudste kuuroorden in Japan, waarvan de vroegste vermelding al in Nihonshoki te vinden is. Kobe is ook beroemd om zijn Kobe-rundvlees, een zeer dure vleesspecialiteit.
Moderne stichting
Kobe werd in 1868 gesticht als een haven voor buitenlandse schepen. In die tijd waren de meeste havens in Japan gesloten voor buitenlanders. In Kobe woonden veel buitenlanders, waaronder: westerlingen, Chinezen, Joden en Indiërs. Kobe heeft een van de belangrijkste Chinatowns van Japan. Men vindt er ook een synagoge en veel christelijke kerken. Kobe is vergelijkbaar met Yokohama als een plaats van waaruit de moderne internationale cultuur in Japan werd geïntroduceerd.
Aardbeving
Op 17 januari 1995 werd de stad getroffen door een zeer krachtige aardbeving. Aardbevingen komen vaker voor in andere delen van Japan, maar niet in Kansai, zodat deze aardbeving voor iedereen een verrassing was. In Kobe en de omliggende steden kwamen 6.434 mensen om, en nog veel meer raakten gewond. Veel gebouwen werden verwoest.