CreateProcess и CreatePipe
А лучше google + непривязываться к языкам програмирования. Потому как API оно и в африке абгдырдыщ.
В Delphi World есть парочку исходников на эту тему:

"Как захватить весь вывод в консоли"
"Запустить консольное приложение и получить его стандартный вывод"
"CreateProcess, который возвращает консольный вывод"

Там оснавная часть кода написана на API по этому переписать на Си не составит труда.