Какое максимальное количество байтов может принять QByteArray? У меня свыше 512Мбайт выходит сообщение Runtime Error.

А в системе есть 512 оперативки одним непрерывным куском?

А что это как-то влияет?
Проге же по фигу скока физической ОЗУ, память выделяет ОС, которая делит ОЗУ на страницы по Nкб каждая.

У меня тоже больше 512 выкидывает bad alloc. Это уже ограничения ОС получается...

0     kernel32!RaiseException 0x7c812afb <=== Вот тут ОС выкидывает std::bad_alloc ексепшн
1     MSVCR90D!CxxThrowException 0x102af8f2
2     C:\Qt\4.7.1\src\corelib\global\qglobal.cpp:2020 (QtCored4!qBadAlloc) 0x67057a8c
3     C:\Qt\4.7.1\src\corelib\tools\qbytearray.cpp:1442 (QtCored4!QByteArray::realloc) 0x6706f138

а как ты туда 512 МБ помещаешь?

В системе два модуля по 1024

Про другой комп написал. У этого два модуля по 2гига.

...
QByteArray file_list,file_list2;
...
while ...
{
      ... 
      file_list.append(file_list2);
      ...
}

Конструктор QByteArray ( int size, char ch )
т.к., размер не может быть меньше нуля, стало быть теоритический максимальный размер - половина int-а (2^31 = 2'147'483'648 байт).

а вообще стоит тролям задать вопрос

Дело не в QByteArray, а в возможности оси выделить 512МБ или более памяти одним неделимым куском (не нужно путать с памятью выделяемой процессу).
Если куска такого размера у оси нет, то абзац виолейшн, и троли тута ни причем.

У меня ось 64 бит спокойно выделяет 1ГБ и больше.