هرمز چهارم پدر خسرو، توسط گستهم (بسطام، بیستام، ویستاخم) که از دودمان بزرگ اسپاهبدان بود و دائی خسرو پرویز به شمار می‌رفت، و برادر گستهم، بندوی (وندوی)، از سلطنت خلع شد و به زندان افکنده‌شد.

طبری نوشته‌است که بهرام چوبین حیله کرده و هرمز چهارم پدر خسرو پرویز، می‌پنداشت، خسرو سر آن دارد که بجای او شاه شود. خسرو که در این زمان، از ترس پدر به آذربایجان رفته بود، شتابان به تیسفون باز آمده و در سال ۵۹۰ میلادی، تاج شاهی بر سر نهاد


بهرام چوبین (بهرام ششم)، یکی از سرداران ارتش که از دودمان مهران (یکی از هفت خاندان ممتاز ساسانی) بود، به پادشاهی خسرو تن در نداد و خود ادعای شاهنشاهی کرد. خسرو مجبور شد با قیام بهرام چوبین به مقابله بپردازد. وی قشونی برداشته، بجنگ او رفت اما شکست خورده و متواری شد و باوجودیکه سپاه بهرام، او را تعقیب می‌کردند، از دجله عبور کرده و به امپراتور روم موریکیوس (موریس) پناهنده‌شد.

خسرو در روم با قیصر موریکیوس توافقاتی کرد. امپراتور مذبور حاضر شد، خسرو را پسر خود دانسته، از او حمایت کند تا به پایتخت ایران برگردد بشرط اینکه خسرو در ازای این همراهی ارمنستان ایران و قلعه دارا را به بیزانس واگذار کند پس از آن خسرو با سپاهی که قیصر در اختیارش گذاشت به ایران بازگشت.

در این هنگام بهرام چوبین بعد از شکست دادن خسرو وارد تیسفون شده، به تخت نشسته و به نام خود سکه زده بود. با همیاری نجبای تیسفون و تعدادی از بزرگان اهل ارمنستان که به خسرو پیوسته بودند، خسرو در حوالی گنزک آذرآبادگان با بهرام وارد جنگ شد و او را شکست داد و دوباره بر تخت شاهی ایران نشست. بهرام به ترکان پناه برد و در شهر بلخ ساکن شد و بعدها در همین شهر نیز درگذشت. بازگشت خسرو به سلطنت، در سال ۵۹۱ میلادی به وقوع پیوست.