Неправильно проиндексированные массивы char [] в Visual Studio 2005

Здесь два вопроса:

• В чем проблема? Я не имею в виду то, что кажется подозрительным в отладчике, но что на самом деле идет не так на верхнем уровне? То, что вы видите в отладчике, может быть результатом оптимизации, а не реальной ошибкой.
• У вас есть минимальный код, воспроизводящий ошибку? Вышесказанное мне мало что говорит. Если бы я раньше столкнулся с точно той же проблемой, это могло бы быть полезно, но я не сделал этого. Итак, если я хотел воспроизвести проблему, что мне делать?

Мое первое предположение - компиляция с включенной непреднамеренной оптимизацией.

Мое второе предположение - что-то странное происходит с поддержкой юникода (например, char vs wchar_t).

Ответ

Фактически, компилятор вычислял неверный адрес для некоторых членов класса. Причиной оказалась директива #pragma pack 1, спрятанная в неясном заголовочном файле, который был #included в некоторых исходных файлах.

Как я это нашел

50% настойчивости, 50% удачи и 10% математических навыков. :-)

Я наткнулся на очень простой класс с несколькими методами и членами, большинство из которых были определены в файле заголовка, в том числе:

typedef int BOOL;  // Legacy, makes my skin crawl; don't ask.
BOOL isConnected() { return m_bConnected; };
BOOL m_bConnected;

... и функция вернула false, когда я знал m_bConnected было true:

• Окно просмотра показало правильное значение. Программные изменения m_bConnected были отражены в окне.
• Наблюдение за &m_bConnected показало, что класс начинается с 8 байтов.
• Окно необработанной памяти показало правильное значение. Там же были отражены программные изменения для m_bConnected.
• Все 4 байта перед m_bConnected были 0, что я интерпретировал как заполнение.
• Пошаговое выполнение отладчика кода ясно показало, что возвращаемое значение равно false!

Итак, я проверил окно разборки и нашел это (мои комментарии):

mov    eax,dword ptr [this]        ; address of the class instance
mov    eax,dword ptr [eax+4]       ; offset to m_bConnected

Другими словами, компилятор рассчитал смещение как 4, хотя должно было быть 8.

Ага!

Интересно, что когда я удалил определение isConnected() из заголовка и поместил его в свой исходный файл, адрес был вычислен правильно! Это убедило меня, что это действительно проблема упаковки, и поиск в базе кода для #pragma pack быстро выявил виновника, древний файл заголовка, который (законно) требовал выравнивания по 1-байтовым границам, но никогда не сбрасывал упаковку до значений по умолчанию. .

Исправление

Решение было так же просто, как заключить оскорбительный заголовок следующим образом:

#pragma pack(push)
// original code here
#pragma pack(pop)

Спасибо за ваш интерес. И Сара, если вы читаете, я собираюсь танцевать на моем столе!

Всегда лучше завершить строку нулем, прежде чем вы начнете использовать. Сделав это даже во время отладки, вы получите более четкое представление о массиве. Более того, вы публично объявляли m_szString. Лучше объявить массив в частной области и вернуть его с помощью функции-члена