Ну, как один из вариантов:

    QSqlDatabase db = QSqlDatabase::database("my_very_rarely_used_db");
    if (!db.isValid()) {
            // выполнится только в первый раз, когда соединения ещё нет
        db = QSqlDatabase::addDatabase("QMYSQL", "my_very_rarely_used_db");
        // Заполняем параметры соединения
    }
    db.open();
    // работаем
    db.close();
    // всё, никаких removeDatabase() делать не надо

Хотя я бы всё-таки создал именованное соединение в конструкторе, и не открывал его. Эта операция практически не займёт ни времени, ни ресурсов. Зато когда БД понадобится, можно сразу открывать её и работать, без всяких дополнительных проверок.