use m_strdup and m_strlen that are inlined for efficiency
[apps/madmutt.git] / imap / message.c
1 /*
2  * Copyright notice from original mutt:
3  * Copyright (C) 1996-9 Brandon Long <blong@fiction.net>
4  * Copyright (C) 1999-2002 Brendan Cully <brendan@kublai.com>
5  *
6  * This file is part of mutt-ng, see http://www.muttng.org/.
7  * It's licensed under the GNU General Public License,
8  * please see the file GPL in the top level source directory.
9  */
10
11 /* message parsing/updating functions */
12
13 #if HAVE_CONFIG_H
14 # include "config.h"
15 #endif
16
17 #include <stdlib.h>
18 #include <ctype.h>
19
20 #include <lib-lib/mem.h>
21 #include <lib-lib/str.h>
22
23 #include "mutt.h"
24 #include "ascii.h"
25 #include "buffer.h"
26 #include "mutt_curses.h"
27 #include "imap_private.h"
28 #include "message.h"
29 #include "mx.h"
30 #include "hcache.h"
31
32 #ifdef HAVE_PGP
33 #include "pgp.h"
34 #endif
35
36 #include <lib-lib/macros.h>
37 #include "lib/debug.h"
38
39 #if HAVE_STDINT_H
40 #include <stdint.h>
41 #elif HAVE_INTTYPES_H
42 #include <inttypes.h>
43 #endif
44
45 static void flush_buffer (char *buf, size_t * len, CONNECTION * conn);
46 static int msg_fetch_header (CONTEXT * ctx, IMAP_HEADER * h, char *buf,
47                              FILE * fp);
48 static int msg_has_flag (LIST * flag_list, const char *flag);
49 static int msg_parse_fetch (IMAP_HEADER * h, char *s);
50 static char *msg_parse_flags (IMAP_HEADER * h, char *s);
51
52 #ifdef USE_HCACHE
53 static int msg_fetch_header_fetch (CONTEXT * ctx, IMAP_HEADER * h, char *buf,
54                                    FILE * fp);
55 static size_t imap_hcache_keylen (const char *fn);
56 #endif /* USE_HCACHE */
57
58 /* imap_read_headers:
59  * Changed to read many headers instead of just one. It will return the
60  * msgno of the last message read. It will return a value other than
61  * msgend if mail comes in while downloading headers (in theory).
62  */
63 int imap_read_headers (IMAP_DATA * idata, int msgbegin, int msgend)
64 {
65   CONTEXT *ctx;
66   char buf[LONG_STRING];
67   char hdrreq[STRING];
68   FILE *fp;
69   char tempfile[_POSIX_PATH_MAX];
70   int msgno;
71   IMAP_HEADER h;
72   int rc, mfhrc, oldmsgcount;
73   int fetchlast = 0;
74   const char *want_headers =
75     "DATE FROM SUBJECT TO CC MESSAGE-ID REFERENCES CONTENT-TYPE CONTENT-DESCRIPTION IN-REPLY-TO REPLY-TO LINES LIST-POST X-LABEL";
76
77 #ifdef USE_HCACHE
78   void *hc = NULL;
79   unsigned long *uid_validity = NULL;
80   char uid_buf[64];
81 #endif /* USE_HCACHE */
82
83   ctx = idata->ctx;
84
85   if (mutt_bit_isset (idata->capabilities, IMAP4REV1)) {
86     snprintf (hdrreq, sizeof (hdrreq), "BODY.PEEK[HEADER.FIELDS (%s%s%s)]",
87               want_headers, ImapHeaders ? " " : "",
88               ImapHeaders ? ImapHeaders : "");
89   }
90   else if (mutt_bit_isset (idata->capabilities, IMAP4)) {
91     snprintf (hdrreq, sizeof (hdrreq), "RFC822.HEADER.LINES (%s%s%s)",
92               want_headers, ImapHeaders ? " " : "",
93               ImapHeaders ? ImapHeaders : "");
94   }
95   else {                        /* Unable to fetch headers for lower versions */
96     mutt_error _("Unable to fetch headers from this IMAP server version.");
97
98     mutt_sleep (2);             /* pause a moment to let the user see the error */
99     return -1;
100   }
101
102   /* instead of downloading all headers and then parsing them, we parse them
103    * as they come in. */
104   mutt_mktemp (tempfile);
105   if (!(fp = safe_fopen (tempfile, "w+"))) {
106     mutt_error (_("Could not create temporary file %s"), tempfile);
107     mutt_sleep (2);
108     return -1;
109   }
110   unlink (tempfile);
111
112   /* make sure context has room to hold the mailbox */
113   while ((msgend) >= idata->ctx->hdrmax)
114     mx_alloc_memory (idata->ctx);
115
116   oldmsgcount = ctx->msgcount;
117   idata->reopen &= ~IMAP_NEWMAIL_PENDING;
118   idata->newMailCount = 0;
119
120 #ifdef USE_HCACHE
121   if ((hc = mutt_hcache_open (HeaderCache, ctx->path))) {
122
123     snprintf (buf, sizeof (buf),
124               "FETCH %d:%d (UID FLAGS)", msgbegin + 1, msgend + 1);
125     fetchlast = msgend + 1;
126
127     imap_cmd_start (idata, buf);
128
129     for (msgno = msgbegin; msgno <= msgend; msgno++) {
130       if (ReadInc && (!msgno || ((msgno + 1) % ReadInc == 0)))
131         mutt_message (_("Evaluating cache... [%d/%d]"), msgno + 1, msgend + 1);
132
133       rewind (fp);
134       memset (&h, 0, sizeof (h));
135       h.data = p_new(IMAP_HEADER_DATA, 1);
136       do {
137         mfhrc = 0;
138
139         rc = imap_cmd_step (idata);
140         if (rc != IMAP_CMD_CONTINUE)
141           break;
142
143         if ((mfhrc =
144             msg_fetch_header_fetch (idata->ctx, &h, idata->cmd.buf, fp)) == -1)
145           continue;
146         else if (mfhrc < 0)
147           break;
148
149         /* make sure we don't get remnants from older larger message headers */
150         fputs ("\n\n", fp);
151
152         sprintf (uid_buf, "/%u", h.data->uid);    /* XXX --tg 21:41 04-07-11 */
153         uid_validity =
154           (unsigned long *) mutt_hcache_fetch (hc, uid_buf, &imap_hcache_keylen);
155
156         if (uid_validity != NULL && *uid_validity == idata->uid_validity) {
157           ctx->hdrs[msgno] = mutt_hcache_restore((unsigned char *) uid_validity, 0);
158           ctx->hdrs[msgno]->index = h.sid - 1;
159           if (h.sid != ctx->msgcount + 1)
160             debug_print (1, ("imap_read_headers: msgcount and sequence ID are inconsistent!"));
161           /* messages which have not been expunged are ACTIVE (borrowed from mh 
162           * folders) */
163           ctx->hdrs[msgno]->active = 1;
164           ctx->hdrs[msgno]->read = h.read;
165           ctx->hdrs[msgno]->old = h.old;
166           ctx->hdrs[msgno]->deleted = h.deleted;
167           ctx->hdrs[msgno]->flagged = h.flagged;
168           ctx->hdrs[msgno]->replied = h.replied;
169           ctx->hdrs[msgno]->changed = h.changed;
170           /*  ctx->hdrs[msgno]->received is restored from mutt_hcache_restore */
171           ctx->hdrs[msgno]->data = (void *) (h.data);
172
173           ctx->msgcount++;
174         }
175
176         rewind (fp);
177
178         p_delete(&uid_validity);
179
180       }
181       while ((rc != IMAP_CMD_OK) && ((mfhrc == -1) ||
182                                     ((msgno + 1) >= fetchlast)));
183
184       if ((mfhrc < -1) || ((rc != IMAP_CMD_CONTINUE) && (rc != IMAP_CMD_OK))) {
185         imap_free_header_data ((void **) &h.data);
186         fclose (fp);
187         mutt_hcache_close (hc);
188         return -1;
189       }
190     }
191
192     fetchlast = msgbegin;
193   }
194 #endif /* USE_HCACHE */
195
196   for (msgno = msgbegin; msgno <= msgend; msgno++) {
197     if (ReadInc && (!msgno || ((msgno + 1) % ReadInc == 0)))
198       mutt_message (_("Fetching message headers... [%d/%d]"), msgno + 1,
199                     msgend + 1);
200
201     if (ctx->hdrs[msgno])
202       continue;
203
204     if (msgno + 1 > fetchlast) {
205       fetchlast = msgno + 1;
206       while ((fetchlast <= msgend) && (!ctx->hdrs[fetchlast]))
207         fetchlast++;
208
209       /*
210        * Make one request for everything. This makes fetching headers an
211        * order of magnitude faster if you have a large mailbox.
212        *
213        * If we get more messages while doing this, we make another
214        * request for all the new messages.
215        */
216       snprintf (buf, sizeof (buf),
217                 "FETCH %d:%d (UID FLAGS INTERNALDATE RFC822.SIZE %s)",
218                 msgno + 1, fetchlast, hdrreq);
219
220       imap_cmd_start (idata, buf);
221     }
222
223     /* freshen fp, h */
224     rewind (fp);
225     memset (&h, 0, sizeof (h));
226     h.data = p_new(IMAP_HEADER_DATA, 1);
227
228     /* this DO loop does two things:
229      * 1. handles untagged messages, so we can try again on the same msg
230      * 2. fetches the tagged response at the end of the last message.
231      */
232     do {
233       mfhrc = 0;
234
235       rc = imap_cmd_step (idata);
236       if (rc != IMAP_CMD_CONTINUE)
237         break;
238
239       if ((mfhrc =
240            msg_fetch_header (idata->ctx, &h, idata->cmd.buf, fp)) == -1)
241         continue;
242       else if (mfhrc < 0)
243         break;
244
245       /* make sure we don't get remnants from older larger message headers */
246       fputs ("\n\n", fp);
247
248       /* update context with message header */
249       ctx->hdrs[msgno] = mutt_new_header ();
250
251       ctx->hdrs[msgno]->index = h.sid - 1;
252       if (h.sid != ctx->msgcount + 1)
253         debug_print (1, ("msgcount and sequence ID are inconsistent!\n"));
254       /* messages which have not been expunged are ACTIVE (borrowed from mh 
255        * folders) */
256       ctx->hdrs[msgno]->active = 1;
257       ctx->hdrs[msgno]->read = h.read;
258       ctx->hdrs[msgno]->old = h.old;
259       ctx->hdrs[msgno]->deleted = h.deleted;
260       ctx->hdrs[msgno]->flagged = h.flagged;
261       ctx->hdrs[msgno]->replied = h.replied;
262       ctx->hdrs[msgno]->changed = h.changed;
263       ctx->hdrs[msgno]->received = h.received;
264       ctx->hdrs[msgno]->data = (void *) (h.data);
265
266       rewind (fp);
267       /* NOTE: if Date: header is missing, mutt_read_rfc822_header depends
268        *   on h.received being set */
269       ctx->hdrs[msgno]->env = mutt_read_rfc822_header (fp, ctx->hdrs[msgno],
270                                                        0, 0);
271       /* content built as a side-effect of mutt_read_rfc822_header */
272       ctx->hdrs[msgno]->content->length = h.content_length;
273
274 #ifdef USE_HCACHE
275       sprintf (uid_buf, "/%u", h.data->uid);
276       mutt_hcache_store (hc, uid_buf, ctx->hdrs[msgno], idata->uid_validity,
277                          &imap_hcache_keylen);
278 #endif /* USE_HCACHE */
279
280       ctx->msgcount++;
281     }
282     while ((rc != IMAP_CMD_OK) && ((mfhrc == -1) ||
283                                    ((msgno + 1) >= fetchlast)));
284
285     if ((mfhrc < -1) || ((rc != IMAP_CMD_CONTINUE) && (rc != IMAP_CMD_OK))) {
286       imap_free_header_data ((void *)&h.data);
287       fclose (fp);
288 #ifdef USE_HCACHE
289       mutt_hcache_close (hc);
290 #endif /* USE_HCACHE */
291       return -1;
292     }
293
294     /* in case we get new mail while fetching the headers */
295     if (idata->reopen & IMAP_NEWMAIL_PENDING) {
296       msgend = idata->newMailCount - 1;
297       while ((msgend) >= ctx->hdrmax)
298         mx_alloc_memory (ctx);
299       idata->reopen &= ~IMAP_NEWMAIL_PENDING;
300       idata->newMailCount = 0;
301     }
302   }
303
304 #ifdef USE_HCACHE
305   mutt_hcache_close (hc);
306 #endif /* USE_HCACHE */
307
308   fclose (fp);
309
310   if (ctx->msgcount > oldmsgcount)
311     mx_update_context (ctx, ctx->msgcount - oldmsgcount);
312
313   return msgend;
314 }
315
316 int imap_fetch_message (MESSAGE * msg, CONTEXT * ctx, int msgno)
317 {
318   IMAP_DATA *idata;
319   HEADER *h;
320   ENVELOPE* newenv;
321   char buf[LONG_STRING];
322   char path[_POSIX_PATH_MAX];
323   char *pc;
324   long bytes;
325   int uid;
326   int cacheno;
327   IMAP_CACHE *cache;
328   int read;
329   int rc;
330   progress_t bar;
331
332   /* Sam's weird courier server returns an OK response even when FETCH
333    * fails. Thanks Sam. */
334   short fetched = 0;
335
336   idata = (IMAP_DATA *) ctx->data;
337   h = ctx->hdrs[msgno];
338
339   /* see if we already have the message in our cache */
340   cacheno = HEADER_DATA (h)->uid % IMAP_CACHE_LEN;
341   cache = &idata->cache[cacheno];
342
343   if (cache->path) {
344     /* don't treat cache errors as fatal, just fall back. */
345     if (cache->uid == HEADER_DATA(h)->uid && (msg->fp = fopen (cache->path, "r")))
346       return 0;
347     else {
348       unlink (cache->path);
349       p_delete(&cache->path);
350     }
351   }
352
353   if (!isendwin ())
354     mutt_message _("Fetching message...");
355
356   cache->uid = HEADER_DATA (h)->uid;
357   mutt_mktemp (path);
358   cache->path = m_strdup(path);
359   if (!(msg->fp = safe_fopen (path, "w+"))) {
360     p_delete(&cache->path);
361     return -1;
362   }
363
364   /* mark this header as currently inactive so the command handler won't
365    * also try to update it. HACK until all this code can be moved into the
366    * command handler */
367   h->active = 0;
368
369   snprintf (buf, sizeof (buf), "UID FETCH %u %s", HEADER_DATA (h)->uid,
370             (mutt_bit_isset (idata->capabilities, IMAP4REV1) ?
371              (option (OPTIMAPPEEK) ? "BODY.PEEK[]" : "BODY[]") : "RFC822"));
372
373   imap_cmd_start (idata, buf);
374   do {
375     if ((rc = imap_cmd_step (idata)) != IMAP_CMD_CONTINUE)
376       break;
377
378     pc = idata->cmd.buf;
379     pc = imap_next_word (pc);
380     pc = imap_next_word (pc);
381
382     if (!ascii_strncasecmp ("FETCH", pc, 5)) {
383       while (*pc) {
384         pc = imap_next_word (pc);
385         if (pc[0] == '(')
386           pc++;
387         if (ascii_strncasecmp ("UID", pc, 3) == 0) {
388           pc = imap_next_word (pc);
389           uid = atoi (pc);
390           if (uid != HEADER_DATA (h)->uid)
391             mutt_error (_
392                         ("The message index is incorrect. Try reopening the mailbox."));
393         }
394         else if ((ascii_strncasecmp ("RFC822", pc, 6) == 0) ||
395                  (ascii_strncasecmp ("BODY[]", pc, 6) == 0)) {
396           pc = imap_next_word (pc);
397           if (imap_get_literal_count (pc, &bytes) < 0) {
398             imap_error ("imap_fetch_message()", buf);
399             goto bail;
400           }
401           bar.size = bytes;
402           bar.msg = _("Fetching message...");
403           mutt_progress_bar (&bar, 0);
404           if (imap_read_literal (msg->fp, idata, bytes, &bar) < 0)
405             goto bail;
406           /* pick up trailing line */
407           if ((rc = imap_cmd_step (idata)) != IMAP_CMD_CONTINUE)
408             goto bail;
409           pc = idata->cmd.buf;
410
411           fetched = 1;
412         }
413         /* UW-IMAP will provide a FLAGS update here if the FETCH causes a
414          * change (eg from \Unseen to \Seen).
415          * Uncommitted changes in mutt take precedence. If we decide to
416          * incrementally update flags later, this won't stop us syncing */
417         else if ((ascii_strncasecmp ("FLAGS", pc, 5) == 0) && !h->changed) {
418           if ((pc = imap_set_flags (idata, h, pc)) == NULL)
419             goto bail;
420         }
421       }
422     }
423   }
424   while (rc == IMAP_CMD_CONTINUE);
425
426   /* see comment before command start. */
427   h->active = 1;
428
429   fflush (msg->fp);
430   if (ferror (msg->fp)) {
431     mutt_perror (cache->path);
432     goto bail;
433   }
434
435   if (rc != IMAP_CMD_OK)
436     goto bail;
437
438   if (!fetched || !imap_code (idata->cmd.buf))
439     goto bail;
440
441   /* Update the header information.  Previously, we only downloaded a
442    * portion of the headers, those required for the main display.
443    */
444   rewind (msg->fp);
445   /* It may be that the Status header indicates a message is read, but the
446    * IMAP server doesn't know the message has been \Seen. So we capture
447    * the server's notion of 'read' and if it differs from the message info
448    * picked up in mutt_read_rfc822_header, we mark the message (and context
449    * changed). Another possiblity: ignore Status on IMAP?*/
450   read = h->read;
451   newenv = mutt_read_rfc822_header (msg->fp, h, 0, 0);
452   mutt_merge_envelopes(h->env, &newenv);
453
454   /* see above. We want the new status in h->read, so we unset it manually
455    * and let mutt_set_flag set it correctly, updating context. */
456   if (read != h->read) {
457     h->read = read;
458     mutt_set_flag (ctx, h, M_NEW, read);
459   }
460
461   h->lines = 0;
462   fgets (buf, sizeof (buf), msg->fp);
463   while (!feof (msg->fp)) {
464     h->lines++;
465     fgets (buf, sizeof (buf), msg->fp);
466   }
467
468   h->content->length = ftello (msg->fp) - h->content->offset;
469
470   /* This needs to be done in case this is a multipart message */
471 #if defined(HAVE_PGP) || defined(HAVE_SMIME)
472   h->security = crypt_query (h->content);
473 #endif
474
475   mutt_clear_error ();
476   rewind (msg->fp);
477
478   return 0;
479
480 bail:
481   safe_fclose (&msg->fp);
482   if (cache->path) {
483     unlink (cache->path);
484     p_delete(&cache->path);
485   }
486
487   return -1;
488 }
489
490 int imap_append_message (CONTEXT * ctx, MESSAGE * msg)
491 {
492   IMAP_DATA *idata;
493   FILE *fp;
494   char buf[LONG_STRING];
495   char mbox[LONG_STRING];
496   char mailbox[LONG_STRING];
497   size_t len;
498   int c, last;
499   IMAP_MBOX mx;
500   int rc;
501   progress_t bar;
502   size_t sent;
503
504   idata = (IMAP_DATA *) ctx->data;
505
506   if (imap_parse_path (ctx->path, &mx))
507     return -1;
508
509   imap_fix_path (idata, mx.mbox, mailbox, sizeof (mailbox));
510
511   if ((fp = fopen (msg->path, "r")) == NULL) {
512     mutt_perror (msg->path);
513     goto fail;
514   }
515
516   /* currently we set the \Seen flag on all messages, but probably we
517    * should scan the message Status header for flag info. Since we're
518    * already rereading the whole file for length it isn't any more
519    * expensive (it'd be nice if we had the file size passed in already
520    * by the code that writes the file, but that's a lot of changes.
521    * Ideally we'd have a HEADER structure with flag info here... */
522   for (last = EOF, len = 0; (c = fgetc (fp)) != EOF; last = c) {
523     if (c == '\n' && last != '\r')
524       len++;
525
526     len++;
527   }
528   rewind (fp);
529
530   bar.msg = _("Uploading message...");
531   bar.size = len;
532   mutt_progress_bar (&bar, 0);
533
534   imap_munge_mbox_name (mbox, sizeof (mbox), mailbox);
535   snprintf (buf, sizeof (buf), "APPEND %s (%s%s%s%s%s) {%lu}", mbox,
536             msg->flags.read ? "\\Seen" : "",
537             msg->flags.read && (msg->flags.replied
538                                 || msg->flags.flagged) ? " " : "",
539             msg->flags.replied ? "\\Answered" : "", msg->flags.replied
540             && msg->flags.flagged ? " " : "",
541             msg->flags.flagged ? "\\Flagged" : "", (unsigned long) len);
542
543   imap_cmd_start (idata, buf);
544
545   do
546     rc = imap_cmd_step (idata);
547   while (rc == IMAP_CMD_CONTINUE);
548
549   if (rc != IMAP_CMD_RESPOND) {
550     char *pc;
551
552     debug_print (1, ("command failed: %s\n", idata->cmd.buf));
553
554     pc = idata->cmd.buf + SEQLEN;
555     SKIPWS (pc);
556     pc = imap_next_word (pc);
557     mutt_error ("%s", pc);
558     mutt_sleep (1);
559     fclose (fp);
560     goto fail;
561   }
562
563   for (last = EOF, sent = len = 0; (c = fgetc (fp)) != EOF; last = c) {
564     if (c == '\n' && last != '\r')
565       buf[len++] = '\r';
566
567     buf[len++] = c;
568
569     if (len > sizeof (buf) - 3) {
570       sent += len;
571       flush_buffer (buf, &len, idata->conn);
572       mutt_progress_bar (&bar, sent);
573     }
574   }
575
576   if (len)
577     flush_buffer (buf, &len, idata->conn);
578
579   mutt_socket_write (idata->conn, "\r\n");
580   fclose (fp);
581
582   do
583     rc = imap_cmd_step (idata);
584   while (rc == IMAP_CMD_CONTINUE);
585
586   if (!imap_code (idata->cmd.buf)) {
587     char *pc;
588
589     debug_print (1, ("command failed: %s\n", idata->cmd.buf));
590     pc = idata->cmd.buf + SEQLEN;
591     SKIPWS (pc);
592     pc = imap_next_word (pc);
593     mutt_error ("%s", pc);
594     mutt_sleep (1);
595     goto fail;
596   }
597
598   p_delete(&mx.mbox);
599   return 0;
600
601 fail:
602   p_delete(&mx.mbox);
603   return -1;
604 }
605
606 /* imap_copy_messages: use server COPY command to copy messages to another
607  *   folder.
608  *   Return codes:
609  *      -1: error
610  *       0: success
611  *       1: non-fatal error - try fetch/append */
612 int imap_copy_messages (CONTEXT * ctx, HEADER * h, char *dest, int delete)
613 {
614   IMAP_DATA *idata;
615   BUFFER cmd, sync_cmd;
616   char uid[11];
617   char mbox[LONG_STRING];
618   char mmbox[LONG_STRING];
619   int rc;
620   int n;
621   IMAP_MBOX mx;
622   int err_continue = M_NO;
623
624   idata = (IMAP_DATA *) ctx->data;
625
626   if (imap_parse_path (dest, &mx)) {
627     debug_print (1, ("bad destination %s\n", dest));
628     return -1;
629   }
630
631   /* check that the save-to folder is in the same account */
632   if (!mutt_account_match (&(CTX_DATA->conn->account), &(mx.account))) {
633     debug_print (3, ("%s not same server as %s\n", dest, ctx->path));
634     return 1;
635   }
636
637   if (h && h->attach_del) {
638     debug_print (3, ("Message contains attachments to be deleted\n"));
639     return 1;
640   }
641
642   imap_fix_path (idata, mx.mbox, mbox, sizeof (mbox));
643
644   memset (&sync_cmd, 0, sizeof (sync_cmd));
645   memset (&cmd, 0, sizeof (cmd));
646   mutt_buffer_addstr (&cmd, "UID COPY ");
647
648   /* Null HEADER* means copy tagged messages */
649   if (!h) {
650     /* if any messages have attachments to delete, fall through to FETCH
651      * and APPEND. TODO: Copy what we can with COPY, fall through for the
652      * remainder. */
653     for (n = 0; n < ctx->msgcount; n++) {
654       if (ctx->hdrs[n]->tagged && ctx->hdrs[n]->attach_del) {
655         debug_print (3, ("Message contains attachments to be deleted\n"));
656         return 1;
657       }
658
659       if (ctx->hdrs[n]->tagged && ctx->hdrs[n]->active &&
660           ctx->hdrs[n]->changed)
661       {
662         rc = imap_sync_message (idata, ctx->hdrs[n], &sync_cmd, &err_continue);
663         if (rc < 0)
664         {
665           debug_print (1, ("could not sync\n"));
666           goto fail;
667         }
668       }
669     }
670
671     rc = imap_make_msg_set (idata, &cmd, M_TAG, 0);
672     if (!rc) {
673       debug_print (1, ("No messages tagged\n"));
674       goto fail;
675     }
676     mutt_message (_("Copying %d messages to %s..."), rc, mbox);
677   }
678   else {
679     mutt_message (_("Copying message %d to %s..."), h->index + 1, mbox);
680     snprintf (uid, sizeof (uid), "%u", HEADER_DATA (h)->uid);
681     mutt_buffer_addstr (&cmd, uid);
682
683     if (h->active && h->changed)
684     {
685       rc = imap_sync_message (idata, h, &sync_cmd, &err_continue);
686       if (rc < 0)
687       {
688         debug_print (1, ("could not sync\n"));
689         goto fail;
690       }
691     }
692   }
693
694   /* let's get it on */
695   mutt_buffer_addstr (&cmd, " ");
696   imap_munge_mbox_name (mmbox, sizeof (mmbox), mbox);
697   mutt_buffer_addstr (&cmd, mmbox);
698
699   rc = imap_exec (idata, cmd.data, IMAP_CMD_FAIL_OK);
700   if (rc == -2) {
701     /* bail out if command failed for reasons other than nonexistent target */
702     if (ascii_strncasecmp
703         (imap_get_qualifier (idata->cmd.buf), "[TRYCREATE]", 11)) {
704       imap_error ("imap_copy_messages", idata->cmd.buf);
705       goto fail;
706     }
707     debug_print (2, ("server suggests TRYCREATE\n"));
708     snprintf (mmbox, sizeof (mmbox), _("Create %s?"), mbox);
709     if (option (OPTCONFIRMCREATE) && mutt_yesorno (mmbox, 1) < 1) {
710       mutt_clear_error ();
711       goto fail;
712     }
713     if (imap_create_mailbox (idata, mbox) < 0)
714       goto fail;
715
716     /* try again */
717     rc = imap_exec (idata, cmd.data, 0);
718   }
719   if (rc != 0) {
720     imap_error ("imap_copy_messages", idata->cmd.buf);
721     goto fail;
722   }
723
724   /* cleanup */
725   if (delete) {
726     if (!h)
727       for (n = 0; n < ctx->msgcount; n++) {
728         if (ctx->hdrs[n]->tagged) {
729           mutt_set_flag (ctx, ctx->hdrs[n], M_DELETE, 1);
730           mutt_set_flag (ctx, ctx->hdrs[n], M_APPENDED, 1);
731           if (option (OPTDELETEUNTAG))
732             mutt_set_flag (ctx, ctx->hdrs[n], M_TAG, 0);
733         }
734       }
735     else {
736       mutt_set_flag (ctx, h, M_DELETE, 1);
737       mutt_set_flag (ctx, h, M_APPENDED, 1);
738       if (option (OPTDELETEUNTAG))
739         mutt_set_flag (ctx, h, M_TAG, 0);
740     }
741   }
742
743   if (cmd.data)
744     p_delete(&cmd.data);
745   if (sync_cmd.data)
746     p_delete(&sync_cmd.data);
747   p_delete(&mx.mbox);
748   return 0;
749
750 fail:
751   if (cmd.data)
752     p_delete(&cmd.data);
753   if (sync_cmd.data)
754     p_delete(&sync_cmd.data);
755   p_delete(&mx.mbox);
756   return -1;
757 }
758
759 /* imap_add_keywords: concatenate custom IMAP tags to list, if they
760  *   appear in the folder flags list. Why wouldn't they? */
761 void imap_add_keywords (char *s, HEADER * h, LIST * mailbox_flags,
762                         size_t slen)
763 {
764   LIST *keywords;
765
766   if (!mailbox_flags || !HEADER_DATA (h) || !HEADER_DATA (h)->keywords)
767     return;
768
769   keywords = HEADER_DATA (h)->keywords->next;
770
771   while (keywords) {
772     if (msg_has_flag (mailbox_flags, keywords->data)) {
773       str_cat (s, slen, keywords->data);
774       str_cat (s, slen, " ");
775     }
776     keywords = keywords->next;
777   }
778 }
779
780 /* imap_free_header_data: free IMAP_HEADER structure */
781 void imap_free_header_data (void **data)
782 {
783   /* this should be safe even if the list wasn't used */
784   mutt_free_list (&(((IMAP_HEADER_DATA *) * data)->keywords));
785
786   p_delete(data);
787 }
788
789 /* imap_set_flags: fill out the message header according to the flags from
790  *   the server. Expects a flags line of the form "FLAGS (flag flag ...)" */
791 char *imap_set_flags (IMAP_DATA * idata, HEADER * h, char *s)
792 {
793   CONTEXT *ctx = idata->ctx;
794   IMAP_HEADER newh;
795   unsigned char readonly;
796
797   memset (&newh, 0, sizeof (newh));
798   newh.data = p_new(IMAP_HEADER_DATA, 1);
799
800   debug_print (2, ("parsing FLAGS\n"));
801   if ((s = msg_parse_flags (&newh, s)) == NULL) {
802     p_delete(&newh.data);
803     return NULL;
804   }
805
806   /* YAUH (yet another ugly hack): temporarily set context to
807    * read-write even if it's read-only, so *server* updates of
808    * flags can be processed by mutt_set_flag. ctx->changed must
809    * be restored afterwards */
810   readonly = ctx->readonly;
811   ctx->readonly = 0;
812
813   mutt_set_flag (ctx, h, M_NEW, !(newh.read || newh.old));
814   mutt_set_flag (ctx, h, M_OLD, newh.old);
815   mutt_set_flag (ctx, h, M_READ, newh.read);
816   mutt_set_flag (ctx, h, M_DELETE, newh.deleted);
817   mutt_set_flag (ctx, h, M_FLAG, newh.flagged);
818   mutt_set_flag (ctx, h, M_REPLIED, newh.replied);
819
820   /* this message is now definitively *not* changed (mutt_set_flag
821    * marks things changed as a side-effect) */
822   h->changed = 0;
823   ctx->changed &= ~readonly;
824   ctx->readonly = readonly;
825
826   mutt_free_list (&(HEADER_DATA (h)->keywords));
827   HEADER_DATA (h)->keywords = newh.data->keywords;
828   p_delete(&newh.data);
829
830   return s;
831 }
832
833
834 /* msg_fetch_header: import IMAP FETCH response into an IMAP_HEADER.
835  *   Expects string beginning with * n FETCH.
836  *   Returns:
837  *      0 on success
838  *     -1 if the string is not a fetch response
839  *     -2 if the string is a corrupt fetch response */
840 static int msg_fetch_header (CONTEXT * ctx, IMAP_HEADER * h, char *buf,
841                              FILE * fp)
842 {
843   IMAP_DATA *idata;
844   long bytes;
845   int rc = -1;                  /* default now is that string isn't FETCH response */
846
847   idata = (IMAP_DATA *) ctx->data;
848
849   if (buf[0] != '*')
850     return rc;
851
852   /* skip to message number */
853   buf = imap_next_word (buf);
854   h->sid = atoi (buf);
855
856   /* find FETCH tag */
857   buf = imap_next_word (buf);
858   if (ascii_strncasecmp ("FETCH", buf, 5))
859     return rc;
860
861   rc = -2;                      /* we've got a FETCH response, for better or worse */
862   if (!(buf = strchr (buf, '(')))
863     return rc;
864   buf++;
865
866   /* FIXME: current implementation - call msg_parse_fetch - if it returns -2,
867    *   read header lines and call it again. Silly. */
868   if (msg_parse_fetch (h, buf) != -2)
869     return rc;
870
871   if (imap_get_literal_count (buf, &bytes) == 0) {
872     imap_read_literal (fp, idata, bytes, NULL);
873
874     /* we may have other fields of the FETCH _after_ the literal
875      * (eg Domino puts FLAGS here). Nothing wrong with that, either.
876      * This all has to go - we should accept literals and nonliterals
877      * interchangeably at any time. */
878     if (imap_cmd_step (idata) != IMAP_CMD_CONTINUE)
879       return rc;
880
881     if (msg_parse_fetch (h, idata->cmd.buf) == -1)
882       return rc;
883   }
884
885   rc = 0;                       /* success */
886
887   /* subtract headers from message size - unfortunately only the subset of
888    * headers we've requested. */
889   h->content_length -= bytes;
890
891   return rc;
892 }
893
894 #ifdef USE_HCACHE
895 static size_t imap_hcache_keylen (const char *fn)
896 {
897   return m_strlen(fn);
898 }
899
900 /* msg_fetch_header: import IMAP FETCH response into an IMAP_HEADER.
901  *   Expects string beginning with * n FETCH.
902  *   Returns:
903  *      0 on success
904  *     -1 if the string is not a fetch response
905  *     -2 if the string is a corrupt fetch response */
906 static int msg_fetch_header_fetch (CONTEXT * ctx, IMAP_HEADER * h, char *buf,
907                                    FILE * fp)
908 {
909   IMAP_DATA *idata;
910   int rc = -1;                  /* default now is that string isn't FETCH response */
911
912   idata = (IMAP_DATA *) ctx->data;
913
914   if (buf[0] != '*')
915     return rc;
916
917   /* skip to message number */
918   buf = imap_next_word (buf);
919   h->sid = atoi (buf);
920
921   /* find FETCH tag */
922   buf = imap_next_word (buf);
923   if (ascii_strncasecmp ("FETCH", buf, 5))
924     return rc;
925
926   rc = -2;                      /* we've got a FETCH response, for better or worse */
927   if (!(buf = strchr (buf, '(')))
928     return rc;
929   buf++;
930
931   if (msg_parse_fetch (h, buf) < 0) {
932     return -2;
933   }
934
935   if (!(buf = strchr (buf, ')')))
936     return rc;
937   buf++;
938
939   return 0;
940 }
941 #endif /* USE_HCACHE */
942
943
944 /* msg_has_flag: do a caseless comparison of the flag against a flag list,
945  *   return 1 if found or flag list has '\*', 0 otherwise */
946 static int msg_has_flag (LIST * flag_list, const char *flag)
947 {
948   if (!flag_list)
949     return 0;
950
951   flag_list = flag_list->next;
952   while (flag_list) {
953     if (!ascii_strncasecmp (flag_list->data, flag, m_strlen(flag_list->data)))
954       return 1;
955
956     flag_list = flag_list->next;
957   }
958
959   return 0;
960 }
961
962 /* msg_parse_fetch: handle headers returned from header fetch */
963 static int msg_parse_fetch (IMAP_HEADER * h, char *s)
964 {
965   char tmp[SHORT_STRING];
966   char *ptmp;
967
968   if (!s)
969     return -1;
970
971   while (*s) {
972     SKIPWS (s);
973
974     if (ascii_strncasecmp ("FLAGS", s, 5) == 0) {
975       if ((s = msg_parse_flags (h, s)) == NULL)
976         return -1;
977     }
978     else if (ascii_strncasecmp ("UID", s, 3) == 0) {
979       s += 3;
980       SKIPWS (s);
981       h->data->uid = (unsigned int) atoi (s);
982
983       s = imap_next_word (s);
984     }
985     else if (ascii_strncasecmp ("INTERNALDATE", s, 12) == 0) {
986       s += 12;
987       SKIPWS (s);
988       if (*s != '\"') {
989         debug_print (1, ("bogus INTERNALDATE entry: %s\n", s));
990         return -1;
991       }
992       s++;
993       ptmp = tmp;
994       while (*s && *s != '\"')
995         *ptmp++ = *s++;
996       if (*s != '\"')
997         return -1;
998       s++;                      /* skip past the trailing " */
999       *ptmp = 0;
1000       h->received = imap_parse_date (tmp);
1001     }
1002     else if (ascii_strncasecmp ("RFC822.SIZE", s, 11) == 0) {
1003       s += 11;
1004       SKIPWS (s);
1005       ptmp = tmp;
1006       while (isdigit ((unsigned char) *s))
1007         *ptmp++ = *s++;
1008       *ptmp = 0;
1009       h->content_length = atoi (tmp);
1010     }
1011     else if (!ascii_strncasecmp ("BODY", s, 4) ||
1012              !ascii_strncasecmp ("RFC822.HEADER", s, 13)) {
1013       /* handle above, in msg_fetch_header */
1014       return -2;
1015     }
1016     else if (*s == ')')
1017       s++;                      /* end of request */
1018     else if (*s) {
1019       /* got something i don't understand */
1020       imap_error ("msg_parse_fetch", s);
1021       return -1;
1022     }
1023   }
1024
1025   return 0;
1026 }
1027
1028 /* msg_parse_flags: read a FLAGS token into an IMAP_HEADER */
1029 static char *msg_parse_flags (IMAP_HEADER * h, char *s)
1030 {
1031   int recent = 0;
1032
1033   /* sanity-check string */
1034   if (ascii_strncasecmp ("FLAGS", s, 5) != 0) {
1035     debug_print (1, ("not a FLAGS response: %s\n", s));
1036     return NULL;
1037   }
1038   s += 5;
1039   SKIPWS (s);
1040   if (*s != '(') {
1041     debug_print (1, ("bogus FLAGS response: %s\n", s));
1042     return NULL;
1043   }
1044   s++;
1045
1046   /* start parsing */
1047   while (*s && *s != ')') {
1048     if (ascii_strncasecmp ("\\deleted", s, 8) == 0) {
1049       s += 8;
1050       h->deleted = 1;
1051     }
1052     else if (ascii_strncasecmp ("\\flagged", s, 8) == 0) {
1053       s += 8;
1054       h->flagged = 1;
1055     }
1056     else if (ascii_strncasecmp ("\\answered", s, 9) == 0) {
1057       s += 9;
1058       h->replied = 1;
1059     }
1060     else if (ascii_strncasecmp ("\\seen", s, 5) == 0) {
1061       s += 5;
1062       h->read = 1;
1063     }
1064     else if (ascii_strncasecmp ("\\recent", s, 5) == 0) {
1065       s += 7;
1066       recent = 1;
1067     }
1068     else {
1069       /* store custom flags as well */
1070       char ctmp;
1071       char *flag_word = s;
1072
1073       if (!h->data->keywords)
1074         h->data->keywords = mutt_new_list ();
1075
1076       while (*s && !ISSPACE (*s) && *s != ')')
1077         s++;
1078       ctmp = *s;
1079       *s = '\0';
1080       mutt_add_list (h->data->keywords, flag_word);
1081       *s = ctmp;
1082     }
1083     SKIPWS (s);
1084   }
1085
1086   /* wrap up, or note bad flags response */
1087   if (*s == ')') {
1088     /* if a message is neither seen nor recent, it is OLD. */
1089     if (option (OPTMARKOLD) && !recent && !(h->read))
1090       h->old = 1;
1091     s++;
1092   }
1093   else {
1094     debug_print (1, ("Unterminated FLAGS response: %s\n", s));
1095     return NULL;
1096   }
1097
1098   return s;
1099 }
1100
1101 static void flush_buffer (char *buf, size_t * len, CONNECTION * conn)
1102 {
1103   buf[*len] = '\0';
1104   mutt_socket_write (conn, buf);
1105   *len = 0;
1106 }