Η Ιαπωνία ήταν η πρώτη χώρα που κατασκεύασε σιδηροδρομικές γραμμές για ταξίδια υψηλής ταχύτητας. Επειδή η Ιαπωνία έχει πολλά βουνά, το ήδη υπάρχον δίκτυο αποτελούνταν από γραμμές στενού εύρους 1067 χιλιοστών (3'6"), οι οποίες έτειναν να ακολουθούν μη άμεσες διαδρομές και δεν μπορούσαν να προσαρμοστούν σε υψηλότερες ταχύτητες. Εξαιτίας αυτού, η Ιαπωνία είχε μεγαλύτερη ανάγκη για νέες γραμμές υψηλών ταχυτήτων σε σχέση με χώρες όπου το υπάρχον σιδηροδρομικό σύστημα κανονικού ή μεγάλου εύρους μπορούσε να αναβαθμιστεί εύκολα. Σε αντίθεση με τις παλαιότερες γραμμές, οι γραμμές Shinkansen είναι κανονικού εύρους και χρησιμοποιούν σήραγγες και οδογέφυρες για να περνούν μέσα και πάνω από εμπόδια, αντί να τα παρακάμπτουν.
Η κατασκευή του πρώτου τμήματος του Tokaido Shinkansen μεταξύ Τόκιο και Οσάκα ξεκίνησε το 1959. Η γραμμή εγκαινιάστηκε την 1η Οκτωβρίου 1964, εγκαίρως για τους Ολυμπιακούς Αγώνες του Τόκιο. Η γραμμή σημείωσε άμεση επιτυχία, φτάνοντας τα 100 εκατομμύρια επιβάτες σε λιγότερο από τρία χρόνια, στις 13 Ιουλίου 1967, και το ένα δισεκατομμύριο επιβάτες το 1976.
Τα πρώτα τρένα Shinkansen έτρεχαν με ταχύτητες έως 200 km/h (125 mph), οι οποίες αργότερα αυξήθηκαν στα 220 km/h (135 mph). Ορισμένα από αυτά τα τρένα, με την κλασική τους εμφάνιση με τη μύτη σφαίρας, χρησιμοποιούνται ακόμη για ενδιάμεσες στάσεις μεταξύ της Χακάτα και της Οσάκα. Ένα βαγόνι οδήγησης από ένα από τα αρχικά τρένα βρίσκεται σήμερα στο Βρετανικό Εθνικό Μουσείο Σιδηροδρόμων στο Γιορκ.
Πολλά πιο προηγμένα μοντέλα τρένων ακολούθησαν τον πρώτο τύπο, γενικά το καθένα με τη δική του ξεχωριστή εμφάνιση. Τα τρένα Shinkansen κινούνται πλέον τακτικά με ταχύτητες έως και 300 km/h (185 mph), γεγονός που τα τοποθετεί μεταξύ των ταχύτερων τρένων που κινούνται στον κόσμο, μαζί με τα γαλλικά TGV και τα γερμανικά ICE.
Οι γραμμές Shinkansen, που αρχικά προορίζονταν για τη μεταφορά επιβατικών και εμπορευματικών αμαξοστοιχιών μέρα και νύχτα, μεταφέρουν μόνο επιβατικά τρένα. Το σύστημα κλείνει μεταξύ των μεσάνυχτων και των 6:00 κάθε μέρα για να μπορέσει να γίνει συντήρηση, συμπεριλαμβανομένης της εκτέλεσης δοκιμαστικών τρένων Doctor Yellow. Τα λίγα νυχτερινά τρένα που κυκλοφορούν ακόμη στην Ιαπωνία κινούνται στο παλιό δίκτυο στενής τροχιάς, με το οποίο το Shinkansen λειτουργεί παράλληλα.
Το 2003, η JR Tokai ανέφερε ότι ο μέσος χρόνος άφιξης του Shinkansen ήταν εντός 6 δευτερολέπτων από τον προγραμματισμένο χρόνο. Αυτό περιλαμβάνει όλα τα φυσικά και ανθρώπινα ατυχήματα και σφάλματα και υπολογίζεται από περίπου 160.000 ταξίδια που πραγματοποίησε το Shinkansen. Το προηγούμενο ρεκόρ ήταν από το 1997 και ήταν 18 δευτερόλεπτα.
Ο πρώτος εκτροχιασμός αμαξοστοιχίας Shinkansen που εκτελούσε δρομολόγια επιβατών σημειώθηκε κατά τη διάρκεια του σεισμού Chuetsu στις 23 Οκτωβρίου 2004. 6 από τα συνολικά 8 βαγόνια της αμαξοστοιχίας Joetsu Shinkansen εκτροχιάστηκαν κοντά στο σταθμό Nagaoka στη Nagaoka, Niigata.