Формат chm это фактически архивный формат. В одном chm-файле есть и файлы, и папки. Открыв его блокнотом мы, естественно, получим набор нечитаемого кода. Просмотреть структуру chm-а позволяют некоторые плагины к файловым менеджерам. Извлечь оттуда файлы можно также с помощью этих плагинов либо специальными распаковщиками chm.

chm, its и частично mht это не текстовые документы. Попытка редактирования их (кроме mht) в блокноте приведёт к порче файла.