rpcrt4: Split the transport layer into a different file.
[wine] / dlls / rpcrt4 / rpcss_np_client.c
1 /*
2  * RPCSS named pipe client implementation
3  *
4  * Copyright (C) 2002 Greg Turner
5  *
6  * This library is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU Lesser General Public
8  * License as published by the Free Software Foundation; either
9  * version 2.1 of the License, or (at your option) any later version.
10  *
11  * This library is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
14  * Lesser General Public License for more details.
15  *
16  * You should have received a copy of the GNU Lesser General Public
17  * License along with this library; if not, write to the Free Software
18  * Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
19  */
20
21 #include <assert.h>
22 #include <stdarg.h>
23
24 #include "windef.h"
25 #include "winbase.h"
26 #include "wine/rpcss_shared.h"
27 #include "wine/debug.h"
28
29 #include "rpc_binding.h"
30
31 WINE_DEFAULT_DEBUG_CHANNEL(ole);
32
33 HANDLE RPCRT4_RpcssNPConnect(void)
34 {
35   HANDLE the_pipe = NULL;
36   DWORD dwmode, wait_result;
37   HANDLE master_mutex = RPCRT4_GetMasterMutex();
38   
39   TRACE("\n");
40
41   while (TRUE) {
42
43     wait_result = WaitForSingleObject(master_mutex, MASTER_MUTEX_TIMEOUT);
44     switch (wait_result) {
45       case WAIT_ABANDONED: 
46       case WAIT_OBJECT_0:
47         break;
48       case WAIT_FAILED:
49       case WAIT_TIMEOUT:
50       default: 
51         ERR("This should never happen: couldn't enter mutex.\n");
52         return NULL;
53     }
54
55     /* try to open the client side of the named pipe. */
56     the_pipe = CreateFileA(
57       NAME_RPCSS_NAMED_PIPE,           /* pipe name */
58       GENERIC_READ | GENERIC_WRITE,    /* r/w access */
59       0,                               /* no sharing */
60       NULL,                            /* no security attributes */
61       OPEN_EXISTING,                   /* open an existing pipe */
62       0,                               /* default attributes */
63       NULL                             /* no template file */
64     );
65
66     if (the_pipe != INVALID_HANDLE_VALUE)
67       break;
68
69     if (GetLastError() != ERROR_PIPE_BUSY) {
70       WARN("Unable to open named pipe %s (assuming unavailable).\n", 
71         debugstr_a(NAME_RPCSS_NAMED_PIPE));
72       the_pipe = NULL;
73       break;
74     }
75
76     WARN("Named pipe busy (will wait)\n");
77     
78     if (!ReleaseMutex(master_mutex))
79       ERR("Failed to release master mutex.  Expect deadlock.\n");
80
81     /* wait for the named pipe.  We are only 
82        willing to wait only 5 seconds.  It should be available /very/ soon. */
83     if (! WaitNamedPipeA(NAME_RPCSS_NAMED_PIPE, MASTER_MUTEX_WAITNAMEDPIPE_TIMEOUT))
84     {
85       ERR("Named pipe unavailable after waiting.  Something is probably wrong.\n");
86       the_pipe = NULL;
87       break;
88     }
89
90   }
91
92   if (the_pipe) {
93     dwmode = PIPE_READMODE_MESSAGE;
94     /* SetNamedPipeHandleState not implemented ATM, but still seems to work somehow. */
95     if (! SetNamedPipeHandleState(the_pipe, &dwmode, NULL, NULL))
96       WARN("Failed to set pipe handle state\n");
97   }
98
99   if (!ReleaseMutex(master_mutex))
100     ERR("Uh oh, failed to leave the RPC Master Mutex!\n");
101
102   return the_pipe;
103 }
104
105 BOOL RPCRT4_SendReceiveNPMsg(HANDLE np, PRPCSS_NP_MESSAGE msg, char *vardata, PRPCSS_NP_REPLY reply)
106 {
107   DWORD count;
108   UINT32 payload_offset;
109   RPCSS_NP_MESSAGE vardata_payload_msg;
110
111   TRACE("(np == %p, msg == %p, vardata == %p, reply == %p)\n",
112     np, msg, vardata, reply);
113
114   if (! WriteFile(np, msg, sizeof(RPCSS_NP_MESSAGE), &count, NULL)) {
115     ERR("write failed.\n");
116     return FALSE;
117   }
118
119   if (count != sizeof(RPCSS_NP_MESSAGE)) {
120     ERR("write count mismatch.\n");
121     return FALSE;
122   }
123
124   /* process the vardata payload if necessary */
125   vardata_payload_msg.message_type = RPCSS_NP_MESSAGE_TYPEID_VARDATAPAYLOADMSG;
126   vardata_payload_msg.vardata_payload_size = 0; /* meaningless */
127   for ( payload_offset = 0; payload_offset < msg->vardata_payload_size; 
128         payload_offset += VARDATA_PAYLOAD_BYTES ) {
129     TRACE("sending vardata payload.  vd=%p, po=%d, ps=%d\n", vardata,
130       payload_offset, msg->vardata_payload_size);
131     ZeroMemory(vardata_payload_msg.message.vardatapayloadmsg.payload, VARDATA_PAYLOAD_BYTES);
132     CopyMemory(vardata_payload_msg.message.vardatapayloadmsg.payload,
133                vardata,
134                min( VARDATA_PAYLOAD_BYTES, msg->vardata_payload_size - payload_offset ));
135     vardata += VARDATA_PAYLOAD_BYTES;
136     if (! WriteFile(np, &vardata_payload_msg, sizeof(RPCSS_NP_MESSAGE), &count, NULL)) {
137       ERR("vardata write failed at %u bytes.\n", payload_offset);
138       return FALSE;
139     }
140   }
141   
142   if (! ReadFile(np, reply, sizeof(RPCSS_NP_REPLY), &count, NULL)) {
143     ERR("read failed.\n");
144     return FALSE;
145   }
146
147   if (count != sizeof(RPCSS_NP_REPLY)) {
148     ERR("read count mismatch. got %ld, expected %u.\n", count, sizeof(RPCSS_NP_REPLY));
149     return FALSE;
150   }
151
152   /* message execution was successful */
153   return TRUE;
154 }