Я не iReset, но попытаюсь:
(?: ) — пассивная группа, отличается от обычной тем, что при нахождении не записывается в QRegExp.cap(...)
[^*] — Любые символы за исключением звёздочки длинной от 0 символов.
* — Определяет длину искомых символов, стоящих перед ним, от 0 до бесконечности
<a — просто текст "<a"
\\s — один пробел
. — один любой символ, за исключением переноса строки
(?! ) — отрицательное вперёд смотрящее, означает, что после искомого текста не должен находится текст стоящий после ?!
<\\/a> — просто текст </a> (прим.: поскольку символ / зарезервированный, то для его использования в качестве обычного текста, его нужно экранировать символами \\)
? — означает, что символ или группа стоящая перед ним может игнорироваться. (прим.: В тексте <p>some text</p>, с помощью регулярного выражения <\\/?p>, можно найти сразу открывающий <p>, и закрывающий тег </p>. Так как в данном случаи символ /, не является обязательным)

Описание класса QRegExp, есть на официальном сайте http://qt-project.org/doc/qt-5.0/qtcore/qregexp.html

А ещё вот шпаргалка, правда она не совсем по QRegExp, но тоже бывает полезна: