Tief versunken spielte Ali Akbar Khan auf seiner Kurzhalslaute Sarod und ließ daraus immer neue Melodien auftauchen. Aus diesen scheinbar so einfachen Tonfolgen entstanden im Laufe seiner Ragainterpretation kunstvoll-kühne Strukturen, mit denen er romantische Liebesgeschichten erzählte. Er selbst sagte einmal über seine musikalischen Anfänge: "Ich hatte keinerlei Sehnsüchte. Ich hatte auch nicht das Bedürfnis, ein Musiker zu werden. Ich lernte als kleines Kind Musik von meinem Vater wie ein Sprache."
Ali Akbar Khan wurde am 14. April 1922 im heutigen Bangladesh geboren. Die Familie zog dann in das kleine Königreich Maihar in Nordindien, wo sein Vater Allauddin Khan Hofmusiker wurde. Mit drei Jahren erhielt Ali Akbar seinen ersten Musikunterricht, und einige Jahre später begann die regelmäßige Unterweisung auf der Sarod.
Der Vater Allauddin war ein berühmter Musiker und begehrter Lehrer, aber er war auch ein grausamer, cholerischer Guru, der seine Schüler schlug und demütigte. Besonders seinen Sohn Ali Akbar quälte er, wenn sein Spiel nicht seinen Ansprüchen genügte. "Wenn Baba Allauddin sich ärgerte, dann wurde er verrückt. Er band Ali Akbar an einen Baum und schlug ihn und ließ ihn dort zwei oder drei Tage", so beschreibt der Mitschüler und Freund Ravi Shankar die Lehrjahre Ali Akbars. Doch Ali Akbar sprach im Alter immer voller Hochachtung von seinem Guru und Vater. Mit dreizehn Jahren noch ohrfeigte ihn der Vater auf der Bühne, als ihm das Spiel des Sohnes missfiel. Damals mochte Ali Akbar Musik, aber liebte sie nicht.
Dann aber, mit fünfzehn Jahren, hatte er sein Erweckungserlebnis. "Und all die Strenge meines Vaters, seine Bestrafungen und meinen Ärger darüber verwandelten sich in Liebe und Verehrung", so Ali Akbar im Rückblick. Er ging sogar so weit zu sagen, daß er durch den Vater Gott erkannte. Ali Akbar Khan sah sich selbst als Werkzeug Gottes, dessen Botschaft er mit seinen Klängen den Menschen verständlich machte. Er war zwar ein gläubiger Moslem, aber als Musiker sah er sich über den Religionen. Deshalb nannte er sich auch einen Sufi, der mit seinem Instrument Sarod einzig die Liebe zu Gott verkündete.
Das Revolutionäre an seiner Raga-Interpretation war, dass Ali Akbar scheinbar unzusammenhängende Phrasen spielte, die durch den Klang der Tanpura, dem Borduninstrument, im Kopf des Zuhörers zu einer Einheit wurden, dadurch erst wurde es so intensiv. Der Sarangispieler Dhruba Gosh nannte sein Spiel deshalb eher telegrafisch.
Mit kaum 20 Jahren erhielt Ali Akbar eine Anstellung beim Maharaja von Jodpur in Rajasthan. Aber er war vor allem ein Kind seiner Zeit. Auf Einladung von Yehudi Menuhin gab er sein erstes Konzert in Amerika. Dort spielte er zeitweilig mit John Handy und im Jugalbandi -Duett- mit Ravi Shankar. Von Fusion-Musik hielt er allerdings nichts, die nannte er abfällig Konfusion-Musik. Schon 1967 gründete Ali Akbar, dem sein Vater als Hunderjähriger den Titel "Meister der Melodie" verlieh, eine Schule in Kalifornien. Seither lebte er dort mit seiner zweiten Frau Mary, und dort starb er jetzt auch im Kreis seiner Familie und Schüler. Mit seinem Tod verlor die indische Klassik, nach Vilayat Khan, einen weiteren hochrangigen Künstler der ersten Generation nach der Unabhängigkeit.