windows下启动外部应用系统调用综合分析

windows下启动外部应用的api一般有三个，WinExec、ShellExecute、CreateProcess。

先来看WinExec:

这个函数运行调用者指定的应用（只能执行可执行文件，并且兼容新不好微软已经抛弃）。

再来看ShellExecuteA：

这个函数在指定文件上执行指定的操作，这里提供这个函数的签名：

HINSTANCE ShellExecuteA(
  HWND   hwnd,
  LPCSTR lpOperation,
  LPCSTR lpFile,
  LPCSTR lpParameters,
  LPCSTR lpDirectory,
  INT    nShowCmd
);

六个参数说明如下：

hwnd                            父窗口句柄，可以为NULL

lpOperation                  要执行的操作，类型是以空字符结尾字符串，可用的值为：

                                     edit：找到一个编辑器来打开指定文件并编辑，如果指定文件不是文档，函数失败。

                                     explore：探索文件夹，该文件夹的名字在lpFile参数指定。

                                     find：搜索指定文件，文件目录由lpDirectory参数指定

                                     open：打开指定文件，可以是文件也可以是文件夹。通过windows外壳打开任意文件，非可执行文件自动 通过关联的程序打开

                                      print：打印文件内容，如果指定文件不是文档，函数失败。

                                      NULL：执行默认操作，如果默认操作不可用，执行打开操作。如果两者都不可用。从以上列表中执行下一个可用操作做。

 

lpFile                              要执行操作的文件，如果lpDirectory用相对路径指定，那么该参数要用绝对路径指定。

 

lpParameters                 如果lpFile是一个可执行文件，那么改参数就要用一个指向字符串（以空字符结尾）的指针，该字符串指定传递给应用程序的参数。字符串的格式根据要执行的操作而定。如果lpFile是一个文档，该参数要设为NULL。

lpDirectory                   一个字符串（以空字符结尾）的指针。该字符串设置工作目录。如果lpFile是一个应用，该参数为NULL。

nShowCmd                    当应用打开时如何显示窗口的标志。如果lpFile是一个文档，该标志会传递给与文档关联的应用，如何处理取决于关联的应用。

如果函数执行成功，则返回一个大于32的值，如果失败就会返回一个下表所列的错误值

由于ShellExecute会通过COM激活shell扩展同时把需要执行的动作交给shell扩展代理。所以在调用此函数之前需要先初始化COM。还有一些shell扩展不需要COM。但是微软建议在调用之前初始化COM是一个好的习惯。

要获取关于由于调用ShellExecute而启动的应用程序的信息，请使用ShellExecuteEx

 

下面看ShellExecuteEx的函数签名：

BOOL ShellExecuteExA(
  SHELLEXECUTEINFOA *pExecInfo
);

参数是如下结构体：

typedef struct _SHELLEXECUTEINFOA {
  DWORD     cbSize;
  ULONG     fMask;
  HWND      hwnd;
  LPCSTR    lpVerb;
  LPCSTR    lpFile;
  LPCSTR    lpParameters;
  LPCSTR    lpDirectory;
  int       nShow;
  HINSTANCE hInstApp;
  void      *lpIDList;
  LPCSTR    lpClass;
  HKEY      hkeyClass;
  DWORD     dwHotKey;
  union {
    HANDLE hIcon;
    HANDLE hMonitor;
  } DUMMYUNIONNAME;
  HANDLE    hProcess;
} SHELLEXECUTEINFOA, *LPSHELLEXECUTEINFOA;

cbSize

结构大小，以字节为单位。

fMask

一个标志数组，用来设置其他成员的有效性。

                                      SEE_MASK_NOCLOSEPROCESS (0x00000040)           用于说明hProcess成员接收进程句柄。这个句柄允许应用发现通过ShellExecuteExA的进程何时终止。调用应用需要负责释放这个句柄。

                                      SEE_MASK_NOASYNC在函数返回前等待执行的完成。这个标记应该用于使用ShellExecute形式调用的应用因为这样会引起异步激活。例如创建可能在后台运行的进程。从后台进程调用ShellExecuteExA应该总之设置这个值。而且调用后就立即退出的应用也应该设置这个标志。如果执行的操作是在后台执行的，调用者也没有设置该标志，那么调用线程会等待直到新进程启动。这意不仅意味着CreateProcess被调用了，DDE通信也完成了。执行委托已经完成并返回给了ShellExecuteExA。如果SEE_MASK_WAITFORINPUTIDLE标志被设置，那么ShellExecuteExA会调用WaitForInputIdle函数，并等待要执行的进程空闲1分钟。

hwnd

可选。执行ShellExecuteEx的窗口句柄，可设为NULL。

lpVerb

指定执行的动作，包括：edit ，explore ，find ，open，print， properties

lpFile

以\0 结尾的字符串，指出 lpVerb 的操作对象的路径，被系统支持的操作包括文本的 open 、 print等

lpParameters

可选。运行/打开程序的参数，如果打开的是一个文档，则该项无效

lpDirectory

可选。指明工作目录的名字，成员没有说明，则默认为当前目录

nShow

必须。指定打开的程序的显示方式，为SW_值中的一个。

hInstApp

【out】如果设置SEE_MASK_NOCLOSEPROCESS S值并且ShellExecuteEx 调用成功，则该项的值大于32，如果调用失败，则将设置为 SE_ERR_XXX 的错误值。

lpIDList

一个ITEMIDLIST结构的地址，用来存储成员的特别标识符，当fMask不包括SEE_MASK_IDLIST或SEE_MASK_INVOKEIDLIST时该项被忽略

lpClass

用以指明文件类别的名字或GUID，当fMask不包括SEE_MASK_CLASSNAME时该项被忽略

hkeyClass

获得已在系统注册的文件类型的Handle，当fMask不包括SEE_MASK_HOTKEY时该项被忽略

 dwHotKey

程序的热键关联，低位存储虚拟关键码（Key Code），高位存储修改标志位(HOTKEYF_)，修改标志为（modifier flags）的详细列表请看WM_SETHOTKEY消息的描述，当fmask不包括SEE_MASK_HOTKEY时该项被忽略

DUMMYUNIONNAME

hIcon

取得对应文件类型的图标的Handle，当fMask不包括SEE_MASK_ICON时该项被忽略

hMonitor

将文档显示在显示器上的Handle，当fMask不包括SEE_MASK_HMONITOR时该项被忽略

hProcess

指向新启动的程序的句柄。若fMask不设为SEE_MASK_NOCLOSEPROCESS则该项值为NULL。但若程序没有启动，即使fMask设为SEE_MASK_NOCLOSEPROCESS，该值也仍为NULL。