В чем разница между Microsoft.Data.SqlClient и Microsoft.EntityFrameworkCore.SqlServer

Это практически одно и то же. Просто Microsoft.EntityFrameworkCore.SqlServer позволяет работать в рамках проекта EFC

То есть, грубо говоря, это Microsoft.EntityFrameworkCore.SqlServer это надстройка над Microsoft.Data.SqlClient, которая является надстройкой над System.Data.SqlClient

Использовать ту или иную идею нужно отталкиваясь от реализации. Приведу пример

1. Вся ваша логика реализуется в базе данных в хранимых процедурах? Лучше используйте Microsoft.Data.SqlClient

2. Вы хотите, чтобы вся работа с БД была в вашем C# проекте и логична для программистов? Лучше используйте Microsoft.EntityFrameworkCore.SqlServer

Подробнее об EFC