Pada tahun 1988, Microsoft mengeluarkan versi pertama dari SQL Server. Pada saat itu masih didesain untuk platform OS/2 dan didevelop bersama antara Microsoft dengan Sybase. Selama awal tahun 1990an, Microsoft mulai untuk membuat versi baru dari SQL Server untuk platform NT-nya. Selama proses development tersebut Microsoft memutuskan bahwa Microsoft SQL Server ini harus bisa terintegrasi dengan kuat dengan sistem operasi NT-nya.Pada tahun 1993, Windows NT 3.1 dan SQL Server 4.2 untuk NT dirilis oleh Microsoft. Target Microsoft untuk mengkombinasikan antara performa database server yang tinggi serta kemudahan cara penggunaan dan administrasinya rupanya tercapai melalui SQL Server ini. Microsoft terus berhasil memasarkan SQL Server dan menjadi database server yang terkenal. Pada tahun 1994, Microsoft dan Sybase secara resmi mengakhiri kerjasamanya.
Di tahun 1995 Microsoft merilis versi 6.0 dari SQL Server. Versi ini merupakan versi yang penting karena sebagian besar merupakan hasil tulis ulang dan juga redesain dari core technology sebelumnya. Versi 6.0 ini menawarkan peningkatan pada performa, built-in replication dan juga administrasi yang tersentralisasi. Pada tahun 1996, Microsoft merilis SQL Server versi 6.5 yang berisi berbagai macam kemampuan tambahan dan juga fitur-fitur baru.
Pada tahun 1997, Microsoft merilis SQL Server 6.5 Enterprise Edition. SQL Server 7.0 dirilis Microsoft pada tahun 1998 dan database engine-nya ditulis ulang agar lebih optimal. Akhirnya tahun 2000 Microsoft mengeluarkan SQL. Versi SQL Server 2000 ini berbasis pada framework yang ada pada versi 7.0 sebelumnya.
