Скорее всего не создаются items. Если Вы делаете как в тестовом примере, то это так.
Поэтому в каждой ячейке надо создать QTableWidgetItem, а после этого уже можно будет менять ее цвет (текст и т.д.).

Даже если в Creator-e указать нужное кол-во строк и столбцов, items у них все равно "нулевые".
А Вы пытаетесь изменить цвет "нулевого" элемента, отсюда и вылетает