finish the "read" of charset.c
[apps/madmutt.git] / lib-mime / rfc822parse.c
1 /*
2  *  This program is free software; you can redistribute it and/or modify
3  *  it under the terms of the GNU General Public License as published by
4  *  the Free Software Foundation; either version 2 of the License, or (at
5  *  your option) any later version.
6  *
7  *  This program is distributed in the hope that it will be useful, but
8  *  WITHOUT ANY WARRANTY; without even the implied warranty of
9  *  MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
10  *  General Public License for more details.
11  *
12  *  You should have received a copy of the GNU General Public License
13  *  along with this program; if not, write to the Free Software
14  *  Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston,
15  *  MA 02110-1301, USA.
16  *
17  *  Copyright © 2006 Pierre Habouzit
18  */
19
20 /*
21  * Copyright notice from original mutt:
22  * Copyright (C) 1996-2000 Michael R. Elkins <me@mutt.org>
23  *
24  * This file is part of mutt-ng, see http://www.muttng.org/.
25  * It's licensed under the GNU General Public License,
26  * please see the file GPL in the top level source directory.
27  */
28
29 #if HAVE_CONFIG_H
30 # include "config.h"
31 #endif
32
33 #include <stdio.h>
34
35 #include <lib-lib/mem.h>
36 #include <lib-lib/str.h>
37 #include <lib-lib/ascii.h>
38 #include <lib-lib/macros.h>
39 #include <lib-lib/buffer.h>
40 #include <lib-lib/date.h>
41 #include <lib-lib/url.h>
42
43 #include "recvattach.h"
44
45 #include "charset.h"
46 #include "mime.h"
47
48 /* Reads an arbitrarily long header field, and looks ahead for continuation
49  * lines.  ``line'' must point to a dynamically allocated string; it is
50  * increased if more space is required to fit the whole line.
51  */
52 ssize_t mutt_read_rfc822_line(FILE *f, char **line, ssize_t *n)
53 {
54     ssize_t pos = 0;
55
56     for (;;) {
57         char *p = *line;
58
59         /* end of file or end of headers */
60         if (!fgets(p + pos, *n - pos, f) || (ISSPACE(*p) && pos == 0)) {
61             *p = '\0';
62             return 0;
63         }
64
65         pos += m_strlen(p + pos);
66         if (p[pos - 1] == '\n') {
67             int c;
68
69             /* remove trailing spaces. safe: p[0] is not a space */
70             do {
71                 p[--pos] = '\0';
72             } while (ISSPACE(p[pos]));
73
74             /* check to see if the next line is a continuation line */
75             c = fgetc(f);
76             if (c != ' ' && c != '\t') {
77                 /* next line is a separate header field or EOH */
78                 ungetc(c, f);
79                 return pos;
80             }
81
82             /* eat tabs and spaces from the beginning of the continuation line */
83             do {
84                 c = fgetc(f);
85             } while (c == ' ' || c == '\t');
86             ungetc(c, f);
87
88             /* string is still terminated because we removed at least one
89                whitespace char above */
90             p[pos++] = ' ';
91         }
92
93         if (*n < pos + STRING) {
94             /* grow the buffer */
95             *n += STRING;
96             p_realloc(line, *n);
97         }
98     }
99 }
100
101 /* TODO: Make that a string list somehow */
102 string_list_t *mutt_parse_references(char *s, int in_reply_to)
103 {
104     string_list_t *lst = NULL;
105     int n = 0;
106     char *o = NULL;
107
108     /* some mail clients add other garbage besides message-ids, so do a quick
109      * check to make sure this looks like a valid message-id
110      * some idiotic clients also break their message-ids between lines, deal
111      * with that too (give up if it's more than two lines, though)
112      */
113
114     for (s = strtok(s, " \t;"); s; s = strtok(NULL, " \t;")) {
115         char *new = NULL;
116
117         if (*s == '<') {
118             n = m_strlen(s);
119             if (s[n - 1] != '>') {
120                 o = s;
121                 continue;
122             }
123
124             new = m_strdup(s);
125         } else if (o) {
126             ssize_t m = m_strlen(s);
127
128             if (s[m - 1] != '>') {
129                 o = NULL;
130             } else {
131                 new = p_new(char, n + m + 1);
132                 strcpy(new, o);
133                 strcpy(new + n, s);
134             }
135         }
136
137         /* make sure that this really does look like a message-id.
138          * it should have exactly one @, and if we're looking at
139          * an in-reply-to header, make sure that the part before
140          * the @ has more than eight characters or it's probably
141          * an email address
142          */
143         if (new) {
144             char *at = strchr(new, '@');
145             string_list_t *tmp;
146
147             if (!at || strchr(at + 1, '@') || (in_reply_to && at - new <= 8)) {
148                 p_delete(&new);
149                 continue;
150             }
151
152             tmp = p_new(string_list_t, 1);
153             tmp->data = new;
154             tmp->next = lst;
155             lst = tmp;
156         }
157     }
158
159     return lst;
160 }
161
162 int mutt_check_encoding(const char *s)
163 {
164     int tok = mime_which_token(s, -1);
165     switch (tok) {
166       case MIME_7BIT:
167         return ENC7BIT;
168       case MIME_8BIT:
169         return ENC8BIT;
170       case MIME_BINARY:
171         return ENCBINARY;
172       case MIME_QUOTED_PRINTABLE:
173         return ENCQUOTEDPRINTABLE;
174       case MIME_BASE64:
175         return ENCBASE64;
176       case MIME_X_UUENCODE:
177         return ENCUUENCODED;
178       default:
179         return ENCOTHER;
180     }
181 }
182
183 int mutt_check_mime_type(const char *s)
184 {
185     int tok;
186
187     if (!m_strcmp(s, "*") || !m_strcmp(s, ".*"))
188         return TYPEANY;
189
190     tok = mime_which_token(s, -1);
191     switch (tok) {
192       case MIME_TEXT:        return TYPETEXT;
193       case MIME_MULTIPART:   return TYPEMULTIPART;
194       case MIME_APPLICATION: return TYPEAPPLICATION;
195       case MIME_MESSAGE:     return TYPEMESSAGE;
196       case MIME_IMAGE:       return TYPEIMAGE;
197       case MIME_AUDIO:       return TYPEAUDIO;
198       case MIME_VIDEO:       return TYPEVIDEO;
199       case MIME_MODEL:       return TYPEMODEL;
200       default:               return TYPEOTHER;
201     }
202 }
203
204 static PARAMETER *parse_parameters(const char *s)
205 {
206     PARAMETER *res = NULL;
207     PARAMETER **list = &res;
208
209     while (*s) {
210         const char *p;
211         PARAMETER *new;
212         int i;
213
214         s = skipspaces(s);
215         if (*s == '=')             /* parameters are fucked up, go away */
216             break;
217
218         p = strpbrk(s, "=;");
219         if (!p)
220             break;
221
222         if (*p == ';') {
223             /* if we hit a ; now the parameter has no value, just skip it */
224             s = p + 1;
225             continue;
226         }
227
228         i = p - s;
229         new = parameter_new();
230         new->attribute = p_dupstr(s, i);
231
232         while (--i >= 0 && ISSPACE(new->attribute[i])) {
233             new->attribute[i] = '\0';
234         }
235         s = skipspaces(p + 1);                      /* skip over the = */
236
237         if (*s == '"') {
238             char buffer[LONG_STRING];
239             int state_ascii = 1;
240
241             s++;
242             for (i = 0; *s && i < ssizeof(buffer) - 1; i++, s++) {
243                 if (!option(OPTSTRICTMIME)) {
244                     /* As iso-2022-* has a characer of '"' with non-ascii state,
245                      * ignore it. */
246                     if (*s == 0x1b && i < ssizeof(buffer) - 2) {
247                         state_ascii = s[1] == '(' && (s[2] == 'B' || s[2] == 'J');
248                     }
249                 }
250                 if (state_ascii && *s == '"')
251                     break;
252
253                 if (*s == '\\') {
254                     buffer[i] = *++s;
255                 } else {
256                     buffer[i] = *s;
257                 }
258             }
259
260             new->value = p_dupstr(buffer, i);
261         } else {
262             for (p = s; *p && *p != ' ' && *p != ';'; p++);
263             new->value = p_dupstr(s, p - s);
264         }
265
266         *list = new;
267         list = &new->next;
268
269         s = strchr(s, ';');           /* Find the next parameter */
270         if (!s)
271             break;                    /* no more parameters */
272     }
273
274     rfc2231_decode_parameters(&res);
275     return res;
276 }
277
278 void mutt_parse_content_type(char *s, BODY *ct)
279 {
280     char *pc;
281     char *subtype;
282
283     p_delete(&ct->subtype);
284     parameter_list_wipe(&ct->parameter);
285
286     /* First extract any existing parameters */
287     if ((pc = strchr(s, ';')) != NULL) {
288         *pc++ = '\0';
289         ct->parameter = parse_parameters(vskipspaces(pc));
290
291         /* Some pre-RFC1521 gateways still use the "name=filename" convention,
292          * but if a filename has already been set in the content-disposition,
293          * let that take precedence, and don't set it here */
294         pc = mutt_get_parameter("name", ct->parameter);
295         if (pc && !ct->filename)
296             ct->filename = m_strdup(pc);
297     }
298
299     /* Now get the subtype */
300     if ((subtype = strchr (s, '/'))) {
301         *subtype++ = '\0';
302         for (pc = subtype; *pc && !ISSPACE(*pc) && *pc != ';'; pc++);
303         ct->subtype = p_dupstr(subtype, pc - subtype);
304     }
305
306     /* Finally, get the major type */
307     ct->type = mutt_check_mime_type(s);
308
309     if (ct->type == TYPEOTHER) {
310         ct->xtype = m_strdup(s);
311     }
312
313     if (!ct->subtype) {
314         /* Some older non-MIME mailers (i.e., mailtool, elm) have a content-type
315          * field, so we can attempt to convert the type to BODY here.
316          */
317         switch (ct->type) {
318             char buffer[SHORT_STRING];
319
320           case TYPETEXT:
321             ct->subtype = m_strdup("plain");
322             break;
323
324           case TYPEAUDIO:
325             ct->subtype = m_strdup("basic");
326             break;
327
328           case TYPEMESSAGE:
329             ct->subtype = m_strdup("rfc822");
330             break;
331
332           case TYPEOTHER:
333             ct->type = TYPEAPPLICATION;
334             snprintf(buffer, sizeof(buffer), "x-%s", s);
335             ct->subtype = m_strdup(buffer);
336             break;
337
338           default:
339             ct->subtype = m_strdup("x-unknown");
340             break;
341         }
342     }
343
344     /* Default character set for text types. */
345     if (ct->type == TYPETEXT) {
346         pc = mutt_get_parameter("charset", ct->parameter);
347         if (!pc) {
348             mutt_set_parameter("charset",
349                                option(OPTSTRICTMIME) ? "us-ascii" :
350                                charset_getfirst(AssumedCharset),
351                                &ct->parameter);
352         }
353     }
354 }
355
356 static void parse_content_disposition(char *s, BODY *ct)
357 {
358     if (!ascii_strncasecmp(s, "inline", 6)) {
359         ct->disposition = DISPINLINE;
360     } else if (!ascii_strncasecmp(s, "form-data", 9)) {
361         ct->disposition = DISPFORMDATA;
362     } else {
363         ct->disposition = DISPATTACH;
364     }
365
366     /* Check to see if a default filename was given */
367     if ((s = strchr (s, ';'))) {
368         PARAMETER *parms = parse_parameters(vskipspaces(s));
369
370         if ((s = mutt_get_parameter("filename", parms)))
371             m_strreplace(&ct->filename, s);
372         if ((s = mutt_get_parameter ("name", parms)))
373             ct->form_name = m_strdup(s);
374
375         parameter_list_wipe(&parms);
376     }
377 }
378
379 /* args:
380  *      fp      stream to read from
381  *
382  *      digest  1 if reading subparts of a multipart/digest, 0
383  *              otherwise
384  */
385 BODY *mutt_read_mime_header(FILE *fp, int digest)
386 {
387     BODY *body = mutt_new_body ();
388     char *line = p_new(char, LONG_STRING);
389     ssize_t linelen = LONG_STRING;
390     char *p;
391
392     body->hdr_offset  = ftello(fp);
393     body->encoding    = ENC7BIT;    /* default from RFC1521 */
394     body->disposition = DISPINLINE;
395     body->type        = digest ? TYPEMESSAGE : TYPETEXT;
396
397     while (mutt_read_rfc822_line(fp, &line, &linelen)) {
398         /* Find the value of the current header */
399         if ((p = strchr(line, ':'))) {
400             *p++ = '\0';
401             p = vskipspaces(p);
402             if (!*p)
403                 continue;
404         } else {
405             break;
406         }
407
408         switch (mime_which_token(line, -1)) {
409           case MIME_CONTENT_TYPE:
410             mutt_parse_content_type (p, body);
411             break;
412
413           case MIME_CONTENT_TRANSFER_ENCODING:
414             body->encoding = mutt_check_encoding (p);
415             break;
416
417           case MIME_CONTENT_DISPOSITION:
418             parse_content_disposition(p, body);
419             break;
420
421           case MIME_CONTENT_DESCRIPTION:
422             m_strreplace(&body->description, p);
423             rfc2047_decode(&body->description);
424             break;
425
426           default: break;
427         }
428     }
429
430     body->offset = ftello(fp);       /* Mark the start of the real data */
431     if (!body->subtype) {
432         if (body->type == TYPETEXT)
433             body->subtype = m_strdup("plain");
434         if (body->type == TYPEMESSAGE)
435             body->subtype = m_strdup("rfc822");
436     }
437
438     p_delete(&line);
439     return (body);
440 }
441
442 void mutt_parse_part(FILE *fp, BODY *b)
443 {
444     char *bound = 0;
445
446     switch (b->type) {
447       case TYPEMULTIPART:
448         bound = mutt_get_parameter("boundary", b->parameter);
449         fseeko(fp, b->offset, SEEK_SET);
450         b->parts = mutt_parse_multipart(fp, bound, b->offset + b->length,
451                                         mime_which_token(b->subtype, -1) == MIME_DIGEST);
452         break;
453
454       case TYPEMESSAGE:
455         if (b->subtype) {
456             fseeko(fp, b->offset, SEEK_SET);
457
458             if (mutt_is_message_type(b->type, b->subtype)) {
459                 b->parts = mutt_parse_messageRFC822(fp, b);
460             } else
461             if (mime_which_token(b->subtype, -1) == MIME_EXTERNAL_BODY) {
462                 b->parts = mutt_read_mime_header(fp, 0);
463             } else {
464                 return;
465             }
466         }
467         break;
468
469       default:
470         return;
471     }
472
473     /* try to recover from parsing error */
474     if (!b->parts) {
475         b->type = TYPETEXT;
476         m_strreplace(&b->subtype, "plain");
477     }
478 }
479
480 /* parse a MESSAGE/RFC822 body
481  *
482  * args:
483  *      fp              stream to read from
484  *
485  *      parent          structure which contains info about the message/rfc822
486  *                      body part
487  *
488  * NOTE: this assumes that `parent->length' has been set!
489  */
490 BODY *mutt_parse_messageRFC822(FILE * fp, BODY * parent)
491 {
492     BODY *msg;
493
494     parent->hdr = header_new();
495     parent->hdr->offset = ftello(fp);
496     parent->hdr->env    = mutt_read_rfc822_header(fp, parent->hdr, 0, 0);
497
498     msg = parent->hdr->content;
499
500     /* ignore the length given in the content-length since it could be wrong
501        and we already have the info to calculate the correct length */
502     /* if (msg->length == -1) */
503     /* if body of this message is empty, we can end up with a negative length */
504     msg->length = MAX(0, parent->length - (msg->offset - parent->offset));
505
506     mutt_parse_part(fp, msg);
507
508     return msg;
509 }
510
511 /* parse a multipart structure
512  *
513  * args:
514  *      fp              stream to read from
515  *
516  *      bound           body separator
517  *
518  *      end_off         length of the multipart body (used when the final
519  *                      boundary is missing to avoid reading too far)
520  *
521  *      digest          1 if reading a multipart/digest, 0 otherwise
522  */
523
524 BODY *
525 mutt_parse_multipart(FILE *fp, const char *bound, off_t end_off, int digest)
526 {
527     char buffer[LONG_STRING];
528     BODY *head = NULL;
529     BODY **last = &head;
530     int blen = m_strlen(bound);
531     int final = 0;                /* did we see the ending boundary? */
532
533     if (!blen) {
534         mutt_error _("multipart message has no boundary parameter!");
535         return NULL;
536     }
537
538     while (ftello(fp) < end_off && fgets(buffer, sizeof(buffer), fp)) {
539         int len, crlf, i;
540
541         len  = m_strlen(buffer);
542         crlf = len > 1 && buffer[len - 2] == '\r';
543
544         if (buffer[0] == '-' && buffer[1] == '-'
545         && !m_strncmp(buffer + 2, bound, blen))
546         {
547             if (*last) {
548                 BODY *b = *last;
549
550                 /* if the body is empty, we can end up with a -1 length */
551                 b->length = MAX(0, ftello(fp) - b->offset - len - 1 - crlf);
552                 if (b->parts && b->parts->length == 0) {
553                     b->parts->length = ftello(fp) - b->parts->offset
554                                      - len - 1 - crlf;
555                 }
556             }
557
558             /* Remove any trailing whitespace, up to the length of the boundary */
559             for (i = len - 1; ISSPACE(buffer[i]) && i >= blen + 2; i--)
560                 buffer[i] = '\0';
561
562             /* Check for the end boundary */
563             final = buffer[blen + 3] == '-' && buffer[blen + 4] == '-';
564             if (final)
565                 break;
566
567             if (buffer[2 + blen] == '\0') {
568                 BODY *new = mutt_read_mime_header(fp, digest);
569
570                 /*
571                  * Consistency checking - catch
572                  * bad attachment end boundaries
573                  */
574
575                 if (new->offset > end_off) {
576                     mutt_free_body(&new);
577                     break;
578                 }
579
580                 if (*last)
581                     last = &(*last)->next;
582                 *last = new;
583             }
584         }
585     }
586
587     /* in case of missing end boundary, set the length to something reasonable */
588     if (*last && (*last)->length == 0 && !final)
589         (*last)->length = end_off - (*last)->offset;
590
591     /* parse recursive MIME parts */
592     {
593         BODY *b;
594         for (b = head; b; b = b->next)
595             mutt_parse_part(fp, b);
596     }
597
598     return (head);
599 }
600
601 static const char *
602 uncomment_timezone(char *buf, size_t buflen, const char *tz)
603 {
604     char *p;
605
606     if (*tz != '(')
607         return tz;                  /* no need to do anything */
608
609     tz = vskipspaces(tz + 1);
610     p = strpbrk(tz, " )");
611     if (!p)
612         return tz;
613
614     m_strncpy(buf, buflen, tz, p - tz);
615     return buf;
616 }
617
618 /* parses a date string in RFC822 format:
619  *
620  * Date: [ weekday , ] day-of-month month year hour:minute:second timezone
621  *
622  * This routine assumes that `h' has been initialized to 0.  the `timezone'
623  * field is optional, defaulting to +0000 if missing.
624  */
625 time_t mutt_parse_date(const char *s, HEADER *h)
626 {
627     int zhours = 0, zminutes = 0, zoccident = 0;
628     char scratch[SHORT_STRING];
629     struct tm tm;
630     int count = 0;
631     char *p;
632
633     /* Don't modify our argument. Fixed-size buffer is ok here since
634        the date format imposes a natural limit.  */
635
636     m_strcpy(scratch, sizeof(scratch), s);
637
638     /* kill the day of the week, if it exists. */
639     p = strchr(scratch, ',');
640     p = vskipspaces(p ? p + 1 : scratch);
641
642     p_clear(&tm, 1);
643
644     while ((p = strtok (p, " \t")) != NULL) {
645         char tzstr[SHORT_STRING];
646         const char *ptz;
647
648         switch (count) {
649           case 0:                    /* day of the month */
650             if (!isdigit((unsigned char)*p))
651                 return -1;
652             tm.tm_mday = atoi(p);
653             if (tm.tm_mday > 31)
654                 return -1;
655             break;
656
657           case 1:                    /* month of the year */
658             tm.tm_mon = mutt_check_month(p);
659             if (tm.tm_mon < 0)
660                 return -1;
661             break;
662
663           case 2:                    /* year */
664             tm.tm_year = atoi(p);
665             if (tm.tm_year < 50)
666                 tm.tm_year += 100;
667             else if (tm.tm_year >= 1900)
668                 tm.tm_year -= 1900;
669             break;
670
671           case 3:                    /* time of day */
672             tm.tm_hour = strtol(p, &p, 10);
673             if (*p++ != ':')
674                 return -1;
675             tm.tm_min  = strtol(p, &p, 10);
676             if (*p++ == ':') {
677                 tm.tm_sec = strtol(p, &p, 10);
678             } else {
679                 tm.tm_sec = 0;
680             }
681             break;
682
683           case 4:                    /* timezone */
684             /* sometimes we see things like (MST) or (-0700) so attempt to
685              * compensate by uncommenting the string if non-RFC822 compliant
686              */
687             ptz = uncomment_timezone(tzstr, sizeof(tzstr), p);
688
689             if (*ptz == '+' || *ptz == '-') {
690                 if (isdigit((unsigned char)ptz[1])
691                 &&  isdigit((unsigned char)ptz[2])
692                 &&  isdigit((unsigned char)ptz[3])
693                 &&  isdigit((unsigned char)ptz[4]))
694                 {
695                     zoccident = ptz[0] == '-';
696                     zhours    = (ptz[1] - '0') * 10 + (ptz[2] - '0');
697                     zminutes  = (ptz[3] - '0') * 10 + (ptz[4] - '0');
698                 }
699             }
700             break;
701         }
702         count++;
703         p = NULL;
704     }
705
706     if (count < 4) {  /* don't check for missing timezone */
707         return -1;
708     }
709
710     if (h) {
711         h->zhours    = zhours;
712         h->zminutes  = zminutes;
713         h->zoccident = zoccident;
714     }
715
716     return mutt_mktime(&tm, 0) + (zoccident ? 1 : -1) * (zhours * 3600 + zminutes * 60);
717 }
718
719 string_list_t **mutt_parse_rfc822_line(ENVELOPE *e, HEADER *hdr, char *line, char *p,
720                               short weed, short do_2047, string_list_t **user_hdrs)
721 {
722     switch (mime_which_token(line, -1)) {
723       case MIME_APPARENTLY_FROM:
724         e->from = rfc822_parse_adrlist (e->from, p);
725         break;
726
727       case MIME_APPARENTLY_TO:
728         e->to = rfc822_parse_adrlist (e->to, p);
729         break;
730
731       case MIME_BCC:
732         e->bcc = rfc822_parse_adrlist (e->bcc, p);
733         break;
734
735       case MIME_CC:
736         e->cc = rfc822_parse_adrlist (e->cc, p);
737         break;
738
739       case MIME_CONTENT_DESCRIPTION:
740         if (hdr) {
741             m_strreplace(&hdr->content->description, p);
742             rfc2047_decode(&hdr->content->description);
743         }
744         break;
745
746       case MIME_CONTENT_DISPOSITION:
747         if (hdr)
748             parse_content_disposition(p, hdr->content);
749         break;
750
751       case MIME_CONTENT_LENGTH:
752         if (hdr) {
753             if ((hdr->content->length = atoi(p)) < 0)
754                 hdr->content->length = -1;
755         }
756         break;
757
758       case MIME_CONTENT_TRANSFER_ENCODING:
759         if (hdr)
760             hdr->content->encoding = mutt_check_encoding(p);
761         break;
762
763       case MIME_CONTENT_TYPE:
764         if (hdr)
765             mutt_parse_content_type (p, hdr->content);
766         break;
767
768       case MIME_DATE:
769         m_strreplace(&e->date, p);
770         if (hdr)
771             hdr->date_sent = mutt_parse_date (p, hdr);
772         break;
773
774       case MIME_EXPIRES:
775         if (hdr && mutt_parse_date (p, NULL) < time (NULL))
776             hdr->expired = 1;
777         break;
778
779 #ifdef USE_NNTP
780       case MIME_FOLLOWUP_TO:
781         if (!e->followup_to) {
782             m_strrtrim(p);
783             e->followup_to = m_strdup(skipspaces(p));
784         }
785         break;
786 #endif
787
788       case MIME_FROM:
789         e->from = rfc822_parse_adrlist(e->from, p);
790         /* don't leave from info NULL if there's an invalid address (or
791          * whatever) in From: field; mutt would just display it as empty
792          * and mark mail/(esp.) news article as your own. aaargh! this
793          * bothered me for _years_ */
794         if (!e->from) {
795             e->from = address_new();
796             e->from->personal = m_strdup(p);
797         }
798         break;
799
800       case MIME_IN_REPLY_TO:
801         string_list_wipe(&e->in_reply_to);
802         e->in_reply_to = mutt_parse_references(p, 1);
803         break;
804
805       case MIME_LINES:
806         if (hdr) {
807             /* HACK - mutt has, for a very short time, produced negative
808                Lines header values.  Ignore them. */
809             hdr->lines = MAX(0, atoi(p));
810         }
811         break;
812
813       case MIME_LIST_POST:
814         /* RFC 2369.  FIXME: We should ignore whitespace, but don't. */
815         if (strncmp(p, "NO", 2)) {
816             char *beg, *end;
817
818             for (beg = strchr (p, '<'); beg; beg = strchr (end, ',')) {
819                 ++beg;
820                 if (!(end = strchr (beg, '>')))
821                     break;
822
823                 /* Take the first mailto URL */
824                 if (url_check_scheme (beg) == U_MAILTO) {
825                     p_delete(&e->list_post);
826                     e->list_post = p_dupstr(beg, end - beg);
827                     break;
828                 }
829             }
830         }
831         break;
832
833       case MIME_MAIL_FOLLOWUP_TO:
834         e->mail_followup_to = rfc822_parse_adrlist(e->mail_followup_to, p);
835         break;
836
837       case MIME_MAIL_REPLY_TO:
838         address_list_wipe(&e->reply_to);
839         e->reply_to = rfc822_parse_adrlist(e->reply_to, p);
840         break;
841
842       case MIME_MESSAGE_ID:
843         {
844             const char *beg, *end;
845
846             /* We add a new "Message-ID:" when building a message */
847             p_delete(&e->message_id);
848
849             if ((beg = strchr(p, '<')) && (end = strchr(beg, '>')))
850                 e->message_id = p_dupstr(beg, (end - beg) + 1);
851         }
852         break;
853
854       case MIME_MIME_VERSION:
855         if (hdr)
856             hdr->mime = 1;
857         break;
858
859 #ifdef USE_NNTP
860       case MIME_NEWSGROUPS:
861         p_delete(&e->newsgroups);
862         m_strrtrim(p);
863         e->newsgroups = m_strdup(skipspaces(p));
864         break;
865 #endif
866
867       case MIME_ORGANIZATION:
868         if (!e->organization && mime_which_token(p, -1) == MIME_UNKNOWN)
869             e->organization = m_strdup(p);
870         break;
871
872       case MIME_RECEIVED:
873         if (hdr && !hdr->received) {
874             char *d = strchr(p, ';');
875             if (d)
876                 hdr->received = mutt_parse_date(d + 1, NULL);
877         }
878         break;
879
880       case MIME_REFERENCES:
881         string_list_wipe(&e->references);
882         e->references = mutt_parse_references(p, 0);
883         break;
884
885       case MIME_REPLY_TO:
886         e->reply_to = rfc822_parse_adrlist(e->reply_to, p);
887         break;
888
889       case MIME_RETURN_PATH:
890         e->return_path = rfc822_parse_adrlist(e->return_path, p);
891         break;
892
893       case MIME_SENDER:
894         e->sender = rfc822_parse_adrlist (e->sender, p);
895         break;
896
897       case MIME_STATUS:
898         if (hdr) {
899             while (*p) {
900                 switch (*p) {
901                   case 'r':
902                     hdr->replied = 1;
903                     break;
904                   case 'O':
905                     hdr->old = 1;
906                     break;
907                   case 'R':
908                     hdr->read = 1;
909                     break;
910                 }
911                 p++;
912             }
913         }
914         break;
915
916       case MIME_SUBJECT:
917         if (!e->subject)
918             e->subject = m_strdup(p);
919         break;
920
921       case MIME_SUPERCEDES:
922       case MIME_SUPERSEDES:
923         if (hdr)
924             e->supersedes = m_strdup(p);
925         break;
926
927       case MIME_TO:
928         e->to = rfc822_parse_adrlist(e->to, p);
929         break;
930
931 #ifdef USE_NNTP
932       case MIME_X_COMMENT_TO:
933         if (!e->x_comment_to)
934             e->x_comment_to = m_strdup(p);
935         break;
936 #endif
937
938       case MIME_X_LABEL:
939         e->x_label = m_strdup(p);
940         break;
941
942 #ifdef USE_NNTP
943       case MIME_XREF:
944         if (!e->xref)
945             e->xref = m_strdup(p);
946         break;
947 #endif
948
949       case MIME_X_STATUS:
950         if (hdr) {
951             while (*p) {
952                 switch (*p) {
953                   case 'A':
954                     hdr->replied = 1;
955                     break;
956                   case 'D':
957                     hdr->deleted = 1;
958                     break;
959                   case 'F':
960                     hdr->flagged = 1;
961                     break;
962                   default:
963                     break;
964                 }
965                 p++;
966             }
967         }
968         break;
969
970       default:
971         if (!user_hdrs)
972             break;
973
974         /* restore the original line */
975         line[m_strlen(line)] = ':';
976
977         if (weed && option(OPTWEED) && mutt_matches_ignore(line, Ignore)
978         && !mutt_matches_ignore(line, UnIgnore)) {
979             break;
980         }
981
982         *user_hdrs = string_item_new();
983         (*user_hdrs)->data = m_strdup(line);
984         if (do_2047)
985             rfc2047_decode(&(*user_hdrs)->data);
986         return &(*user_hdrs)->next;
987     }
988
989     return user_hdrs;
990 }
991
992 /* mutt_read_rfc822_header() -- parses a RFC822 header
993  *
994  * Args:
995  *
996  * f            stream to read from
997  *
998  * hdr          header structure of current message (optional).
999  *
1000  * user_hdrs    If set, store user headers.  Used for recall-message and
1001  *              postpone modes.
1002  *
1003  * weed         If this parameter is set and the user has activated the
1004  *              $weed option, honor the header weed list for user headers.
1005  *              Used for recall-message.
1006  *
1007  * Returns:     newly allocated envelope structure.  You should free it by
1008  *              envelope_delete() when envelope stay unneeded.
1009  */
1010 ENVELOPE *
1011 mutt_read_rfc822_header(FILE *f, HEADER *hdr, short user_hdrs, short weed)
1012 {
1013     ENVELOPE *e = envelope_new();
1014     string_list_t **last = user_hdrs ? &e->userhdrs : NULL;
1015
1016     char *line = p_new(char, LONG_STRING);
1017     ssize_t linelen = LONG_STRING;
1018     off_t loc;
1019
1020     if (hdr && !hdr->content) {
1021         hdr->content = mutt_new_body ();
1022
1023         /* set the defaults from RFC1521 */
1024         hdr->content->type     = TYPETEXT;
1025         hdr->content->subtype  = m_strdup("plain");
1026         hdr->content->encoding = ENC7BIT;
1027         hdr->content->length   = -1;
1028
1029         /* RFC 2183 says this is arbitrary */
1030         hdr->content->disposition = DISPINLINE;
1031     }
1032
1033     while ((loc = ftello(f)),
1034            mutt_read_rfc822_line(f, &line, &linelen))
1035     {
1036         char buf[LONG_STRING + 1] = "";
1037         char *p;
1038
1039         p = strpbrk(line, ": \t");
1040         if (!p || *p != ':') {
1041             char return_path[LONG_STRING];
1042             time_t t;
1043
1044             /* some bogus MTAs will quote the original "From " line */
1045             if (!m_strncmp(">From ", line, 6))
1046                 continue;               /* just ignore */
1047
1048             if (is_from(line, return_path, sizeof(return_path), &t)) {
1049                 /* MH somtimes has the From_ line in the middle of the header! */
1050                 if (hdr && !hdr->received)
1051                     hdr->received = t - mutt_local_tz(t);
1052                 continue;
1053             }
1054
1055             fseeko(f, loc, 0);
1056             break;                    /* end of header */
1057         }
1058
1059         if (mutt_match_spam_list(line, SpamList, buf, sizeof(buf))) {
1060             if (!rx_list_match(NoSpamList, line)) {
1061                 /* if spam tag already exists, figure out how to amend it */
1062                 if (e->spam && *buf) {
1063                     if (SpamSep) {
1064                         /* If SpamSep defined, append with separator */
1065                         mutt_buffer_addstr(e->spam, SpamSep);
1066                         mutt_buffer_addstr(e->spam, buf);
1067                     } else {
1068                         /* else overwrite */
1069                         mutt_buffer_reset(e->spam);
1070                         mutt_buffer_addstr(e->spam, buf);
1071                     }
1072                 }
1073                 else if (!e->spam && *buf) {
1074                     /* spam tag is new, and match expr is non-empty; copy */
1075                     e->spam = mutt_buffer_from(NULL, buf);
1076                 }
1077                 else if (!e->spam) {
1078                     /* match expr is empty; plug in null string if no existing tag */
1079                     e->spam = mutt_buffer_from(NULL, "");
1080                 }
1081             }
1082         }
1083
1084         *p++ = '\0';
1085         p = vskipspaces(p);
1086         if (!*p)
1087             continue;                 /* skip empty header fields */
1088
1089         last = mutt_parse_rfc822_line(e, hdr, line, p, weed, 1, last);
1090     }
1091
1092     p_delete(&line);
1093
1094     if (hdr) {
1095         hdr->content->hdr_offset = hdr->offset;
1096         hdr->content->offset     = ftello(f);
1097         rfc2047_decode_envelope(e);
1098         /* check for missing or invalid date */
1099         if (hdr->date_sent <= 0) {
1100             hdr->date_sent = hdr->received;
1101         }
1102     }
1103
1104     return e;
1105 }
1106
1107 /* Compares mime types to the ok and except lists */
1108 static int count_body_parts_check(string_list_t **checklist, BODY *b)
1109 {
1110     string_list_t *type;
1111
1112     for (type = *checklist; type; type = type->next) {
1113         ATTACH_MATCH *a = (ATTACH_MATCH *)type->data;
1114
1115         if ((a->major_int == TYPEANY || a->major_int == b->type)
1116         &&  !regexec(&a->minor_rx, b->subtype, 0, NULL, 0)) {
1117             return 1;
1118         }
1119     }
1120
1121     return 0;
1122 }
1123
1124 static int count_body_parts (BODY *body, int flags)
1125 {
1126     int count = 0;
1127     BODY *bp;
1128
1129     if (!body)
1130         return 0;
1131
1132     for (bp = body; bp != NULL; bp = bp->next) {
1133         /* Initial disposition is to count and not to recurse this part. */
1134         int shallcount, shallrecurse, iscontainer;
1135         int tok = mime_which_token(bp->subtype, -1);
1136
1137         iscontainer  = bp->type == TYPEMESSAGE || bp->type == TYPEMULTIPART;
1138
1139         /* don't recurse in external bodies or multipart/alternatives */
1140         shallrecurse = (bp->type == TYPEMESSAGE && tok != MIME_EXTERNAL_BODY)
1141                     || (bp->type == TYPEMULTIPART && tok != MIME_ALTERNATIVE);
1142
1143         /* Don't count top level containers and fundamental inlines */
1144         shallcount   = !(iscontainer && (flags & M_PARTS_TOPLEVEL))
1145                     && !(!iscontainer && bp->disposition == DISPINLINE && bp == body);
1146
1147         if (shallcount) {
1148             /* Turn off shallcount if message type is not in ok list,
1149              * or if it is in except list. Check is done separately for
1150              * inlines vs. attachments.
1151              */
1152
1153             if (bp->disposition == DISPATTACH) {
1154                 if (!count_body_parts_check(&AttachAllow, bp))
1155                     shallcount = 0;
1156                 if (count_body_parts_check(&AttachExclude, bp))
1157                     shallcount = 0;
1158             } else {
1159                 if (!count_body_parts_check(&InlineAllow, bp))
1160                     shallcount = 0;
1161                 if (count_body_parts_check(&InlineExclude, bp))
1162                     shallcount = 0;
1163             }
1164         }
1165
1166         bp->attach_qualifies = shallcount;
1167         count += shallcount;
1168
1169         if (shallrecurse) {
1170             bp->attach_count = count_body_parts(bp->parts,
1171                                                 flags & ~M_PARTS_TOPLEVEL);
1172             count += bp->attach_count;
1173         }
1174     }
1175
1176     return count;
1177 }
1178
1179 int mutt_count_body_parts(HEADER *hdr, int flags)
1180 {
1181     if (!option(OPTCOUNTATTACH))
1182         return 0;
1183
1184     if (hdr->attach_valid && !(flags & M_PARTS_RECOUNT))
1185         return hdr->attach_total;
1186
1187     if (AttachAllow || AttachExclude || InlineAllow || InlineExclude)
1188         hdr->attach_total = count_body_parts(hdr->content,
1189                                              flags | M_PARTS_TOPLEVEL);
1190     else
1191         hdr->attach_total = 0;
1192
1193     hdr->attach_valid = 1;
1194     return hdr->attach_total;
1195 }