lib-mime/rfc822parse.c

   1 /*
   2  *  This program is free software; you can redistribute it and/or modify
   3  *  it under the terms of the GNU General Public License as published by
   4  *  the Free Software Foundation; either version 2 of the License, or (at
   5  *  your option) any later version.
   6  *
   7  *  This program is distributed in the hope that it will be useful, but
   8  *  WITHOUT ANY WARRANTY; without even the implied warranty of
   9  *  MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  10  *  General Public License for more details.
  11  *
  12  *  You should have received a copy of the GNU General Public License
  13  *  along with this program; if not, write to the Free Software
  14  *  Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston,
  15  *  MA 02110-1301, USA.
  16  *
  17  *  Copyright © 2006 Pierre Habouzit
  18  */
  19
  20 /*
  21  * Copyright notice from original mutt:
  22  * Copyright (C) 1996-2000 Michael R. Elkins <me@mutt.org>
  23  *
  24  * This file is part of mutt-ng, see http://www.muttng.org/.
  25  * It's licensed under the GNU General Public License,
  26  * please see the file GPL in the top level source directory.
  27  */
  28
  29 #include <lib-lib/lib-lib.h>
  30
  31 #include "recvattach.h"
  32 #include "charset.h"
  33 #include "mime.h"
  34
  35 /* Reads an arbitrarily long header field, and looks ahead for continuation
  36  * lines.  ``line'' must point to a dynamically allocated string; it is
  37  * increased if more space is required to fit the whole line.
  38  */
  39 ssize_t mutt_read_rfc822_line(FILE *f, char **line, ssize_t *n)
  40 {
  41     ssize_t pos = 0;
  42
  43     for (;;) {
  44         char *p = *line;
  45
  46         /* end of file or end of headers */
  47         if (!fgets(p + pos, *n - pos, f) || (ISSPACE(*p) && pos == 0)) {
  48             *p = '\0';
  49             return 0;
  50         }
  51
  52         pos += m_strlen(p + pos);
  53         if (p[pos - 1] == '\n') {
  54             int c;
  55
  56             /* remove trailing spaces. safe: p[0] is not a space */
  57             do {
  58                 p[--pos] = '\0';
  59             } while (ISSPACE(p[pos]));
  60
  61             /* check to see if the next line is a continuation line */
  62             c = fgetc(f);
  63             if (c != ' ' && c != '\t') {
  64                 /* next line is a separate header field or EOH */
  65                 ungetc(c, f);
  66                 return pos;
  67             }
  68
  69             /* eat tabs and spaces from the beginning of the continuation line */
  70             do {
  71                 c = fgetc(f);
  72             } while (c == ' ' || c == '\t');
  73             ungetc(c, f);
  74
  75             /* string is still terminated because we removed at least one
  76                whitespace char above */
  77             p[pos++] = ' ';
  78         }
  79
  80         if (*n < pos + STRING) {
  81             /* grow the buffer */
  82             *n += STRING;
  83             p_realloc(line, *n);
  84         }
  85     }
  86 }
  87
  88 /* TODO: Make that a string list somehow */
  89 string_list_t *mutt_parse_references(char *s, int in_reply_to)
  90 {
  91     string_list_t *lst = NULL;
  92     int n = 0;
  93     char *o = NULL;
  94
  95     /* some mail clients add other garbage besides message-ids, so do a quick
  96      * check to make sure this looks like a valid message-id
  97      * some idiotic clients also break their message-ids between lines, deal
  98      * with that too (give up if it's more than two lines, though)
  99      */
 100
 101     for (s = strtok(s, " \t;"); s; s = strtok(NULL, " \t;")) {
 102         char *new = NULL;
 103
 104         if (*s == '<') {
 105             n = m_strlen(s);
 106             if (s[n - 1] != '>') {
 107                 o = s;
 108                 continue;
 109             }
 110
 111             new = m_strdup(s);
 112         } else if (o) {
 113             ssize_t m = m_strlen(s);
 114
 115             if (s[m - 1] != '>') {
 116                 o = NULL;
 117             } else {
 118                 new = p_new(char, n + m + 1);
 119                 m_strcpy(new, n + m + 1, o);
 120                 m_strcpy(new + n, m + 1, s);
 121             }
 122         }
 123
 124         /* make sure that this really does look like a message-id.
 125          * it should have exactly one @, and if we're looking at
 126          * an in-reply-to header, make sure that the part before
 127          * the @ has more than eight characters or it's probably
 128          * an email address
 129          */
 130         if (new) {
 131             char *at = strchr(new, '@');
 132             string_list_t *tmp;
 133
 134             if (!at || strchr(at + 1, '@') || (in_reply_to && at - new <= 8)) {
 135                 p_delete(&new);
 136                 continue;
 137             }
 138
 139             tmp = p_new(string_list_t, 1);
 140             tmp->data = new;
 141             tmp->next = lst;
 142             lst = tmp;
 143         }
 144     }
 145
 146     return lst;
 147 }
 148
 149 int mutt_check_encoding(const char *s)
 150 {
 151     int tok = mime_which_token(s, -1);
 152     switch (tok) {
 153       case MIME_7BIT:
 154         return ENC7BIT;
 155       case MIME_8BIT:
 156         return ENC8BIT;
 157       case MIME_BINARY:
 158         return ENCBINARY;
 159       case MIME_QUOTED_PRINTABLE:
 160         return ENCQUOTEDPRINTABLE;
 161       case MIME_BASE64:
 162         return ENCBASE64;
 163       case MIME_X_UUENCODE:
 164         return ENCUUENCODED;
 165       default:
 166         return ENCOTHER;
 167     }
 168 }
 169
 170 int mutt_check_mime_type(const char *s)
 171 {
 172     int tok;
 173
 174     if (!m_strcmp(s, "*") || !m_strcmp(s, ".*"))
 175         return TYPEANY;
 176
 177     tok = mime_which_token(s, -1);
 178     switch (tok) {
 179       case MIME_TEXT:        return TYPETEXT;
 180       case MIME_MULTIPART:   return TYPEMULTIPART;
 181       case MIME_APPLICATION: return TYPEAPPLICATION;
 182       case MIME_MESSAGE:     return TYPEMESSAGE;
 183       case MIME_IMAGE:       return TYPEIMAGE;
 184       case MIME_AUDIO:       return TYPEAUDIO;
 185       case MIME_VIDEO:       return TYPEVIDEO;
 186       case MIME_MODEL:       return TYPEMODEL;
 187       default:               return TYPEOTHER;
 188     }
 189 }
 190
 191 static parameter_t *parse_parameters(const char *s)
 192 {
 193     parameter_t *res = NULL;
 194     parameter_t **list = &res;
 195
 196     while (*s) {
 197         const char *p;
 198         parameter_t *new;
 199         int i;
 200
 201         s = skipspaces(s);
 202         if (*s == '=')             /* parameters are fucked up, go away */
 203             break;
 204
 205         p = strpbrk(s, "=;");
 206         if (!p)
 207             break;
 208
 209         if (*p == ';') {
 210             /* if we hit a ; now the parameter has no value, just skip it */
 211             s = p + 1;
 212             continue;
 213         }
 214
 215         i = p - s;
 216         new = parameter_new();
 217         new->attribute = p_dupstr(s, i);
 218
 219         while (--i >= 0 && ISSPACE(new->attribute[i])) {
 220             new->attribute[i] = '\0';
 221         }
 222         s = skipspaces(p + 1);                      /* skip over the = */
 223
 224         if (*s == '"') {
 225             char buffer[LONG_STRING];
 226             int state_ascii = 1;
 227
 228             s++;
 229             for (i = 0; *s && i < ssizeof(buffer) - 1; i++, s++) {
 230                 /* As iso-2022-* has a characer of '"' with non-ascii state,
 231                  * ignore it. */
 232                 if (*s == 0x1b && i < ssizeof(buffer) - 2) {
 233                     state_ascii = s[1] == '(' && (s[2] == 'B' || s[2] == 'J');
 234                 }
 235                 if (state_ascii && *s == '"')
 236                     break;
 237
 238                 if (*s == '\\') {
 239                     buffer[i] = *++s;
 240                 } else {
 241                     buffer[i] = *s;
 242                 }
 243             }
 244
 245             new->value = p_dupstr(buffer, i);
 246         } else {
 247             for (p = s; *p && *p != ' ' && *p != ';'; p++);
 248             new->value = p_dupstr(s, p - s);
 249         }
 250
 251         *list = new;
 252         list = &new->next;
 253
 254         s = strchr(s, ';');           /* Find the next parameter */
 255         if (!s)
 256             break;                    /* no more parameters */
 257     }
 258
 259     rfc2231_decode_parameters(&res);
 260     return res;
 261 }
 262
 263 void mutt_parse_content_type(char *s, BODY *ct)
 264 {
 265     char *pc;
 266     char *subtype;
 267
 268     p_delete(&ct->subtype);
 269     parameter_list_wipe(&ct->parameter);
 270
 271     /* First extract any existing parameters */
 272     if ((pc = strchr(s, ';')) != NULL) {
 273         *pc++ = '\0';
 274         ct->parameter = parse_parameters(vskipspaces(pc));
 275
 276         /* Some pre-RFC1521 gateways still use the "name=filename" convention,
 277          * but if a filename has already been set in the content-disposition,
 278          * let that take precedence, and don't set it here */
 279         pc = parameter_getval(ct->parameter, "name");
 280         if (pc && !ct->filename)
 281             ct->filename = m_strdup(pc);
 282     }
 283
 284     /* Now get the subtype */
 285     if ((subtype = strchr (s, '/'))) {
 286         *subtype++ = '\0';
 287         for (pc = subtype; *pc && !ISSPACE(*pc) && *pc != ';'; pc++);
 288         ct->subtype = p_dupstr(subtype, pc - subtype);
 289     }
 290
 291     /* Finally, get the major type */
 292     ct->type = mutt_check_mime_type(s);
 293
 294     if (ct->type == TYPEOTHER) {
 295         ct->xtype = m_strdup(s);
 296     }
 297
 298     if (!ct->subtype) {
 299         /* Some older non-MIME mailers (i.e., mailtool, elm) have a content-type
 300          * field, so we can attempt to convert the type to BODY here.
 301          */
 302         switch (ct->type) {
 303             char buffer[STRING];
 304
 305           case TYPETEXT:
 306             ct->subtype = m_strdup("plain");
 307             break;
 308
 309           case TYPEAUDIO:
 310             ct->subtype = m_strdup("basic");
 311             break;
 312
 313           case TYPEMESSAGE:
 314             ct->subtype = m_strdup("rfc822");
 315             break;
 316
 317           case TYPEOTHER:
 318             ct->type = TYPEAPPLICATION;
 319             snprintf(buffer, sizeof(buffer), "x-%s", s);
 320             ct->subtype = m_strdup(buffer);
 321             break;
 322
 323           default:
 324             ct->subtype = m_strdup("x-unknown");
 325             break;
 326         }
 327     }
 328
 329     /* Default character set for text types. */
 330     if (ct->type == TYPETEXT) {
 331         pc = parameter_getval(ct->parameter, "charset");
 332         if (!pc) {
 333             parameter_setval(&ct->parameter, "charset",
 334                              charset_getfirst(mod_cset.assumed_charset));
 335         }
 336     }
 337 }
 338
 339 static void parse_content_disposition(const char *s, BODY *ct)
 340 {
 341     if (!ascii_strncasecmp(s, "inline", 6)) {
 342         ct->disposition = DISPINLINE;
 343     } else if (!ascii_strncasecmp(s, "form-data", 9)) {
 344         ct->disposition = DISPFORMDATA;
 345     } else {
 346         ct->disposition = DISPATTACH;
 347     }
 348
 349     /* Check to see if a default filename was given */
 350     if ((s = strchr (s, ';'))) {
 351         parameter_t *parms = parse_parameters(vskipspaces(s));
 352
 353         if ((s = parameter_getval(parms, "filename")))
 354             m_strreplace(&ct->filename, s);
 355         if ((s = parameter_getval(parms, "name")))
 356             ct->form_name = m_strdup(s);
 357
 358         parameter_list_wipe(&parms);
 359     }
 360 }
 361
 362 /* args:
 363  *      fp      stream to read from
 364  *
 365  *      digest  1 if reading subparts of a multipart/digest, 0
 366  *              otherwise
 367  */
 368 BODY *mutt_read_mime_header(FILE *fp, int digest)
 369 {
 370     BODY *body = body_new();
 371     char *line = p_new(char, LONG_STRING);
 372     ssize_t linelen = LONG_STRING;
 373     char *p;
 374
 375     body->hdr_offset  = ftello(fp);
 376     body->encoding    = ENC7BIT;    /* default from RFC1521 */
 377     body->disposition = DISPINLINE;
 378     body->type        = digest ? TYPEMESSAGE : TYPETEXT;
 379
 380     while (mutt_read_rfc822_line(fp, &line, &linelen)) {
 381         /* Find the value of the current header */
 382         if ((p = strchr(line, ':'))) {
 383             *p++ = '\0';
 384             p = vskipspaces(p);
 385             if (!*p)
 386                 continue;
 387         } else {
 388             break;
 389         }
 390
 391         switch (mime_which_token(line, -1)) {
 392           case MIME_CONTENT_TYPE:
 393             mutt_parse_content_type (p, body);
 394             break;
 395
 396           case MIME_CONTENT_TRANSFER_ENCODING:
 397             body->encoding = mutt_check_encoding (p);
 398             break;
 399
 400           case MIME_CONTENT_DISPOSITION:
 401             parse_content_disposition(p, body);
 402             break;
 403
 404           case MIME_CONTENT_DESCRIPTION:
 405             m_strreplace(&body->description, p);
 406             rfc2047_decode(&body->description);
 407             break;
 408
 409           default: break;
 410         }
 411     }
 412
 413     body->offset = ftello(fp);       /* Mark the start of the real data */
 414     if (!body->subtype) {
 415         if (body->type == TYPETEXT)
 416             body->subtype = m_strdup("plain");
 417         if (body->type == TYPEMESSAGE)
 418             body->subtype = m_strdup("rfc822");
 419     }
 420
 421     p_delete(&line);
 422     return (body);
 423 }
 424
 425 void mutt_parse_part(FILE *fp, BODY *b)
 426 {
 427     char *bound = 0;
 428
 429     switch (b->type) {
 430       case TYPEMULTIPART:
 431         bound = parameter_getval(b->parameter, "boundary");
 432         fseeko(fp, b->offset, SEEK_SET);
 433         b->parts = mutt_parse_multipart(fp, bound, b->offset + b->length,
 434                                         mime_which_token(b->subtype, -1) == MIME_DIGEST);
 435         break;
 436
 437       case TYPEMESSAGE:
 438         if (b->subtype) {
 439             fseeko(fp, b->offset, SEEK_SET);
 440
 441             if (mutt_is_message_type(b)) {
 442                 b->parts = mutt_parse_messageRFC822(fp, b);
 443             } else
 444             if (mime_which_token(b->subtype, -1) == MIME_EXTERNAL_BODY) {
 445                 b->parts = mutt_read_mime_header(fp, 0);
 446             } else {
 447                 return;
 448             }
 449         }
 450         break;
 451
 452       default:
 453         return;
 454     }
 455
 456     /* try to recover from parsing error */
 457     if (!b->parts) {
 458         b->type = TYPETEXT;
 459         m_strreplace(&b->subtype, "plain");
 460     }
 461 }
 462
 463 /* parse a MESSAGE/RFC822 body
 464  *
 465  * args:
 466  *      fp              stream to read from
 467  *
 468  *      parent          structure which contains info about the message/rfc822
 469  *                      body part
 470  *
 471  * NOTE: this assumes that `parent->length' has been set!
 472  */
 473 BODY *mutt_parse_messageRFC822(FILE * fp, BODY * parent)
 474 {
 475     BODY *msg;
 476
 477     parent->hdr = header_new();
 478     parent->hdr->offset = ftello(fp);
 479     parent->hdr->env    = mutt_read_rfc822_header(fp, parent->hdr, 0, 0);
 480
 481     msg = parent->hdr->content;
 482
 483     /* ignore the length given in the content-length since it could be wrong
 484        and we already have the info to calculate the correct length */
 485     /* if (msg->length == -1) */
 486     /* if body of this message is empty, we can end up with a negative length */
 487     msg->length = MAX(0, parent->length - (msg->offset - parent->offset));
 488
 489     mutt_parse_part(fp, msg);
 490
 491     return msg;
 492 }
 493
 494 /* parse a multipart structure
 495  *
 496  * args:
 497  *      fp              stream to read from
 498  *
 499  *      bound           body separator
 500  *
 501  *      end_off         length of the multipart body (used when the final
 502  *                      boundary is missing to avoid reading too far)
 503  *
 504  *      digest          1 if reading a multipart/digest, 0 otherwise
 505  */
 506
 507 BODY *
 508 mutt_parse_multipart(FILE *fp, const char *bound, off_t end_off, int digest)
 509 {
 510     char buffer[LONG_STRING];
 511     BODY *head = NULL;
 512     BODY **last = &head;
 513     int blen = m_strlen(bound);
 514     int final = 0;                /* did we see the ending boundary? */
 515
 516     if (!blen) {
 517         mutt_error _("multipart message has no boundary parameter!");
 518         return NULL;
 519     }
 520
 521     while (ftello(fp) < end_off && fgets(buffer, sizeof(buffer), fp)) {
 522         int len, crlf, i;
 523
 524         len  = m_strlen(buffer);
 525         crlf = len > 1 && buffer[len - 2] == '\r';
 526
 527         if (buffer[0] == '-' && buffer[1] == '-'
 528         && !m_strncmp(buffer + 2, bound, blen))
 529         {
 530             if (*last) {
 531                 BODY *b = *last;
 532
 533                 /* if the body is empty, we can end up with a -1 length */
 534                 b->length = MAX(0, ftello(fp) - b->offset - len - 1 - crlf);
 535                 if (b->parts && b->parts->length == 0) {
 536                     b->parts->length = ftello(fp) - b->parts->offset
 537                                      - len - 1 - crlf;
 538                 }
 539             }
 540
 541             /* Remove any trailing whitespace, up to the length of the boundary */
 542             for (i = len - 1; ISSPACE(buffer[i]) && i >= blen + 2; i--)
 543                 buffer[i] = '\0';
 544
 545             /* Check for the end boundary */
 546             final = buffer[blen + 3] == '-' && buffer[blen + 4] == '-';
 547             if (final)
 548                 break;
 549
 550             if (buffer[2 + blen] == '\0') {
 551                 BODY *new = mutt_read_mime_header(fp, digest);
 552
 553                 /*
 554                  * Consistency checking - catch
 555                  * bad attachment end boundaries
 556                  */
 557
 558                 if (new->offset > end_off) {
 559                     body_list_wipe(&new);
 560                     break;
 561                 }
 562
 563                 if (*last)
 564                     last = &(*last)->next;
 565                 *last = new;
 566             }
 567         }
 568     }
 569
 570     /* in case of missing end boundary, set the length to something reasonable */
 571     if (*last && (*last)->length == 0 && !final)
 572         (*last)->length = end_off - (*last)->offset;
 573
 574     /* parse recursive MIME parts */
 575     {
 576         BODY *b;
 577         for (b = head; b; b = b->next)
 578             mutt_parse_part(fp, b);
 579     }
 580
 581     return (head);
 582 }
 583
 584 /* parses a date string in RFC822 format:
 585  *
 586  * Date: [ weekday , ] day-of-month month year hour:minute:second timezone
 587  *
 588  * This routine assumes that `h' has been initialized to 0.  the `timezone'
 589  * field is optional, defaulting to +0000 if missing.
 590  */
 591 time_t mutt_parse_date(const char *s, HEADER *h)
 592 {
 593     struct tm tm;
 594     const char *loc;
 595     time_t tz;
 596
 597     loc = setlocale(LC_ALL, "C");
 598     p_clear(&tm, 1);
 599     if (strptime(s, "%a, %d %b %Y %H:%M:%S %z", &tm))
 600         goto ok;
 601     p_clear(&tm, 1);
 602     if (strptime(s, "%a, %d %b %Y %H:%M %z", &tm))
 603         goto ok;
 604     setlocale(LC_ALL, "");
 605     return 0;
 606
 607   ok:
 608     setlocale(LC_ALL, "");
 609     tz = tm.tm_gmtoff;
 610     return timegm(&tm) - tz;
 611 }
 612
 613 string_list_t **mutt_parse_rfc822_line(ENVELOPE *e, HEADER *hdr, char *line, char *p,
 614                               short weed, short do_2047, string_list_t **user_hdrs)
 615 {
 616     switch (mime_which_token(line, -1)) {
 617       case MIME_APPARENTLY_FROM:
 618         e->from = rfc822_parse_adrlist (e->from, p);
 619         break;
 620
 621       case MIME_APPARENTLY_TO:
 622         e->to = rfc822_parse_adrlist (e->to, p);
 623         break;
 624
 625       case MIME_BCC:
 626         e->bcc = rfc822_parse_adrlist (e->bcc, p);
 627         break;
 628
 629       case MIME_CC:
 630         e->cc = rfc822_parse_adrlist (e->cc, p);
 631         break;
 632
 633       case MIME_CONTENT_DESCRIPTION:
 634         if (hdr) {
 635             m_strreplace(&hdr->content->description, p);
 636             rfc2047_decode(&hdr->content->description);
 637         }
 638         break;
 639
 640       case MIME_CONTENT_DISPOSITION:
 641         if (hdr)
 642             parse_content_disposition(p, hdr->content);
 643         break;
 644
 645       case MIME_CONTENT_LENGTH:
 646         if (hdr) {
 647             if ((hdr->content->length = atoi(p)) < 0)
 648                 hdr->content->length = -1;
 649         }
 650         break;
 651
 652       case MIME_CONTENT_TRANSFER_ENCODING:
 653         if (hdr)
 654             hdr->content->encoding = mutt_check_encoding(p);
 655         break;
 656
 657       case MIME_CONTENT_TYPE:
 658         if (hdr)
 659             mutt_parse_content_type (p, hdr->content);
 660         break;
 661
 662       case MIME_DATE:
 663         m_strreplace(&e->date, p);
 664         if (hdr)
 665             hdr->date_sent = mutt_parse_date (p, hdr);
 666         break;
 667
 668       case MIME_EXPIRES:
 669         if (hdr && mutt_parse_date (p, NULL) < time (NULL))
 670             hdr->expired = 1;
 671         break;
 672
 673 #ifdef USE_NNTP
 674       case MIME_FOLLOWUP_TO:
 675         if (!e->followup_to) {
 676             m_strrtrim(p);
 677             e->followup_to = m_strdup(skipspaces(p));
 678         }
 679         break;
 680 #endif
 681
 682       case MIME_FROM:
 683         e->from = rfc822_parse_adrlist(e->from, p);
 684         /* don't leave from info NULL if there's an invalid address (or
 685          * whatever) in From: field; mutt would just display it as empty
 686          * and mark mail/(esp.) news article as your own. aaargh! this
 687          * bothered me for _years_ */
 688         if (!e->from) {
 689             e->from = address_new();
 690             e->from->personal = m_strdup(p);
 691         }
 692         break;
 693
 694       case MIME_IN_REPLY_TO:
 695         string_list_wipe(&e->in_reply_to);
 696         e->in_reply_to = mutt_parse_references(p, 1);
 697         break;
 698
 699       case MIME_LINES:
 700         if (hdr) {
 701             /* HACK - mutt has, for a very short time, produced negative
 702                Lines header values.  Ignore them. */
 703             hdr->lines = MAX(0, atoi(p));
 704         }
 705         break;
 706
 707       case MIME_LIST_POST:
 708         /* RFC 2369.  FIXME: We should ignore whitespace, but don't. */
 709         if (m_strncmp(p, "NO", 2)) {
 710             char *beg, *end;
 711
 712             for (beg = strchr (p, '<'); beg; beg = strchr (end, ',')) {
 713                 ++beg;
 714                 if (!(end = strchr (beg, '>')))
 715                     break;
 716
 717                 /* Take the first mailto URL */
 718                 if (url_check_scheme (beg) == U_MAILTO) {
 719                     p_delete(&e->list_post);
 720                     e->list_post = p_dupstr(beg, end - beg);
 721                     break;
 722                 }
 723             }
 724         }
 725         break;
 726
 727       case MIME_MAIL_FOLLOWUP_TO:
 728         e->mail_followup_to = rfc822_parse_adrlist(e->mail_followup_to, p);
 729         break;
 730
 731       case MIME_MAIL_REPLY_TO:
 732         address_list_wipe(&e->reply_to);
 733         e->reply_to = rfc822_parse_adrlist(e->reply_to, p);
 734         break;
 735
 736       case MIME_MESSAGE_ID:
 737         {
 738             const char *beg, *end;
 739
 740             /* We add a new "Message-ID:" when building a message */
 741             p_delete(&e->message_id);
 742
 743             if ((beg = strchr(p, '<')) && (end = strchr(beg, '>')))
 744                 e->message_id = p_dupstr(beg, (end - beg) + 1);
 745         }
 746         break;
 747
 748       case MIME_MIME_VERSION:
 749         if (hdr)
 750             hdr->mime = 1;
 751         break;
 752
 753 #ifdef USE_NNTP
 754       case MIME_NEWSGROUPS:
 755         p_delete(&e->newsgroups);
 756         m_strrtrim(p);
 757         e->newsgroups = m_strdup(skipspaces(p));
 758         break;
 759 #endif
 760
 761       case MIME_ORGANIZATION:
 762         if (!e->organization && mime_which_token(p, -1) == MIME_UNKNOWN)
 763             e->organization = m_strdup(p);
 764         break;
 765
 766       case MIME_RECEIVED:
 767         if (hdr && !hdr->received) {
 768             char *d = strchr(p, ';');
 769             if (d)
 770                 hdr->received = mutt_parse_date(d + 1, NULL);
 771         }
 772         break;
 773
 774       case MIME_REFERENCES:
 775         string_list_wipe(&e->references);
 776         e->references = mutt_parse_references(p, 0);
 777         break;
 778
 779       case MIME_REPLY_TO:
 780         e->reply_to = rfc822_parse_adrlist(e->reply_to, p);
 781         break;
 782
 783       case MIME_RETURN_PATH:
 784         e->return_path = rfc822_parse_adrlist(e->return_path, p);
 785         break;
 786
 787       case MIME_SENDER:
 788         e->sender = rfc822_parse_adrlist (e->sender, p);
 789         break;
 790
 791       case MIME_STATUS:
 792         if (hdr) {
 793             while (*p) {
 794                 switch (*p) {
 795                   case 'r':
 796                     hdr->replied = 1;
 797                     break;
 798                   case 'O':
 799                     hdr->old = 1;
 800                     break;
 801                   case 'R':
 802                     hdr->read = 1;
 803                     break;
 804                 }
 805                 p++;
 806             }
 807         }
 808         break;
 809
 810       case MIME_SUBJECT:
 811         if (!e->subject)
 812             e->subject = m_strdup(p);
 813         break;
 814
 815       case MIME_SUPERCEDES:
 816       case MIME_SUPERSEDES:
 817         if (hdr)
 818             e->supersedes = m_strdup(p);
 819         break;
 820
 821       case MIME_TO:
 822         e->to = rfc822_parse_adrlist(e->to, p);
 823         break;
 824
 825       case MIME_X_LABEL:
 826         e->x_label = m_strdup(p);
 827         break;
 828
 829 #ifdef USE_NNTP
 830       case MIME_XREF:
 831         if (!e->xref)
 832             e->xref = m_strdup(p);
 833         break;
 834 #endif
 835
 836       case MIME_X_STATUS:
 837         if (hdr) {
 838             while (*p) {
 839                 switch (*p) {
 840                   case 'A':
 841                     hdr->replied = 1;
 842                     break;
 843                   case 'D':
 844                     hdr->deleted = 1;
 845                     break;
 846                   case 'F':
 847                     hdr->flagged = 1;
 848                     break;
 849                   default:
 850                     break;
 851                 }
 852                 p++;
 853             }
 854         }
 855         break;
 856
 857       default:
 858         if (!user_hdrs)
 859             break;
 860
 861         /* restore the original line */
 862         line[m_strlen(line)] = ':';
 863
 864         if (weed && string_list_contains(Ignore, line, "*")
 865         && !string_list_contains(UnIgnore, line, "*")) {
 866             break;
 867         }
 868
 869         *user_hdrs = string_item_new();
 870         (*user_hdrs)->data = m_strdup(line);
 871         if (do_2047)
 872             rfc2047_decode(&(*user_hdrs)->data);
 873         return &(*user_hdrs)->next;
 874     }
 875
 876     return user_hdrs;
 877 }
 878
 879 /* mutt_read_rfc822_header() -- parses a RFC822 header
 880  *
 881  * Args:
 882  *
 883  * f            stream to read from
 884  *
 885  * hdr          header structure of current message (optional).
 886  *
 887  * user_hdrs    If set, store user headers.  Used for recall-message and
 888  *              postpone modes.
 889  *
 890  * weed         If this parameter is set and the user has activated the
 891  *              $weed option, honor the header weed list for user headers.
 892  *              Used for recall-message.
 893  *
 894  * Returns:     newly allocated envelope structure.  You should free it by
 895  *              envelope_delete() when envelope stay unneeded.
 896  */
 897 ENVELOPE *
 898 mutt_read_rfc822_header(FILE *f, HEADER *hdr, short user_hdrs, short weed)
 899 {
 900     ENVELOPE *e = envelope_new();
 901     string_list_t **last = user_hdrs ? &e->userhdrs : NULL;
 902
 903     char *line = p_new(char, LONG_STRING);
 904     ssize_t linelen = LONG_STRING;
 905     off_t loc;
 906
 907     if (hdr && !hdr->content) {
 908         hdr->content = body_new();
 909
 910         /* set the defaults from RFC1521 */
 911         hdr->content->type     = TYPETEXT;
 912         hdr->content->subtype  = m_strdup("plain");
 913         hdr->content->encoding = ENC7BIT;
 914         hdr->content->length   = -1;
 915
 916         /* RFC 2183 says this is arbitrary */
 917         hdr->content->disposition = DISPINLINE;
 918     }
 919
 920     while ((loc = ftello(f)),
 921            mutt_read_rfc822_line(f, &line, &linelen))
 922     {
 923         char buf[LONG_STRING + 1] = "";
 924         char *p;
 925
 926         p = strpbrk(line, ": \t");
 927         if (!p || *p != ':') {
 928             /* some bogus MTAs will quote the original "From " line */
 929             if (!m_strncmp(">From ", line, 6) || !m_strncmp("From ", line, 5))
 930                 continue;               /* just ignore */
 931
 932             fseeko(f, loc, 0);
 933             break;                    /* end of header */
 934         }
 935
 936         if (rx_list_match2(SpamList, line, buf, sizeof(buf))
 937         && !rx_list_match(NoSpamList, line))
 938         {
 939             /* if spam tag already exists, figure out how to amend it */
 940             if (e->spam && *buf) {
 941                 if (mod_mime.spam_separator) {
 942                     mutt_buffer_addstr(e->spam, mod_mime.spam_separator);
 943                 } else {
 944                     mutt_buffer_reset(e->spam);
 945                 }
 946                 mutt_buffer_addstr(e->spam, buf);
 947             }
 948
 949             if (!e->spam) {
 950                 e->spam = mutt_buffer_from(NULL, buf);
 951             }
 952         }
 953
 954         *p++ = '\0';
 955         p = vskipspaces(p);
 956         if (!*p)
 957             continue;                 /* skip empty header fields */
 958
 959         last = mutt_parse_rfc822_line(e, hdr, line, p, weed, 1, last);
 960     }
 961
 962     p_delete(&line);
 963
 964     if (hdr) {
 965         hdr->content->hdr_offset = hdr->offset;
 966         hdr->content->offset     = ftello(f);
 967         rfc2047_decode_envelope(e);
 968         /* check for missing or invalid date */
 969         if (hdr->date_sent <= 0) {
 970             hdr->date_sent = hdr->received;
 971         }
 972     }
 973
 974     return e;
 975 }
 976
 977 /* Compares mime types to the ok and except lists */
 978 static int count_body_parts_check(string_list_t **checklist, BODY *b)
 979 {
 980     string_list_t *type;
 981
 982     for (type = *checklist; type; type = type->next) {
 983         ATTACH_MATCH *a = (ATTACH_MATCH *)type->data;
 984
 985         if ((a->major_int == TYPEANY || a->major_int == b->type)
 986         &&  !regexec(&a->minor_rx, b->subtype, 0, NULL, 0)) {
 987             return 1;
 988         }
 989     }
 990
 991     return 0;
 992 }
 993
 994 static int count_body_parts (BODY *body, int flags)
 995 {
 996     int count = 0;
 997     BODY *bp;
 998
 999     if (!body)
1000         return 0;
1001
1002     for (bp = body; bp != NULL; bp = bp->next) {
1003         /* Initial disposition is to count and not to recurse this part. */
1004         int shallcount, shallrecurse, iscontainer;
1005         int tok = mime_which_token(bp->subtype, -1);
1006
1007         iscontainer  = bp->type == TYPEMESSAGE || bp->type == TYPEMULTIPART;
1008
1009         /* don't recurse in external bodies or multipart/alternatives */
1010         shallrecurse = (bp->type == TYPEMESSAGE && tok != MIME_EXTERNAL_BODY)
1011                     || (bp->type == TYPEMULTIPART && tok != MIME_ALTERNATIVE);
1012
1013         /* Don't count top level containers and fundamental inlines */
1014         shallcount   = !(iscontainer && (flags & M_PARTS_TOPLEVEL))
1015                     && !(!iscontainer && bp->disposition == DISPINLINE && bp == body);
1016
1017         if (shallcount) {
1018             /* Turn off shallcount if message type is not in ok list,
1019              * or if it is in except list. Check is done separately for
1020              * inlines vs. attachments.
1021              */
1022
1023             if (bp->disposition == DISPATTACH) {
1024                 if (!count_body_parts_check(&AttachAllow, bp))
1025                     shallcount = 0;
1026                 if (count_body_parts_check(&AttachExclude, bp))
1027                     shallcount = 0;
1028             } else {
1029                 if (!count_body_parts_check(&InlineAllow, bp))
1030                     shallcount = 0;
1031                 if (count_body_parts_check(&InlineExclude, bp))
1032                     shallcount = 0;
1033             }
1034         }
1035
1036         bp->attach_qualifies = shallcount;
1037         count += shallcount;
1038
1039         if (shallrecurse) {
1040             bp->attach_count = count_body_parts(bp->parts,
1041                                                 flags & ~M_PARTS_TOPLEVEL);
1042             count += bp->attach_count;
1043         }
1044     }
1045
1046     return count;
1047 }
1048
1049 int mutt_count_body_parts(HEADER *hdr, int flags)
1050 {
1051     if (hdr->attach_valid && !(flags & M_PARTS_RECOUNT))
1052         return hdr->attach_total;
1053
1054     if (AttachAllow || AttachExclude || InlineAllow || InlineExclude)
1055         hdr->attach_total = count_body_parts(hdr->content,
1056                                              flags | M_PARTS_TOPLEVEL);
1057     else
1058         hdr->attach_total = 0;
1059
1060     hdr->attach_valid = 1;
1061     return hdr->attach_total;
1062 }
1063
1064 /*
1065  * A valid message separator looks like:
1066  *
1067  * From [ <return-path> ] <weekday> <month> <day> <time> [ <timezone> ] <year>
1068  */
1069 bool is_from(const char *s, char *path, ssize_t pathlen, time_t *tp)
1070 {
1071     const char *p;
1072     struct tm tm;
1073     char *loc;
1074     int q = 0;
1075
1076     if (path)
1077         *path = 0;
1078
1079     if (m_strncmp("From ", s, 5) != 0)
1080         return false;
1081
1082     s = skipspaces(s + 5);         /* skip over the From part. */
1083     if (!*s)
1084         return false;
1085
1086     for (p = s; *p && (q || !ISSPACE(*p)); p++) {
1087         if (*p == '\\') {
1088             if (*++p == '\0')
1089                 return false;
1090         }
1091         else if (*p == '"') {
1092             q = !q;
1093         }
1094     }
1095
1096     if (q || !*p)
1097         return false;
1098
1099     if (path)
1100         m_strncpy(path, pathlen, s, p - s);
1101
1102     s = vskipspaces(p + 1);
1103     if (!*s)
1104         return false;
1105
1106     loc = setlocale(LC_TIME, "C");
1107     for (int i = 0; i < 4; i++) {
1108         static char const * const formats[] = {
1109             "%a %b %d %H:%M:%S %Y",
1110             "%a %b %d %H:%M:%S %z %Y",
1111             "%a %b %d %H:%M %Y",
1112             "%a %b %d %H:%M %z %Y",
1113         };
1114
1115         p_clear(&tm, 1);
1116         p = strptime(s, formats[i], &tm);
1117         if (p) {
1118             s = p;
1119             goto ok;
1120         }
1121     }
1122     setlocale(LC_TIME, loc);
1123     return false;
1124
1125   ok:
1126     if (tp) {
1127         *tp = tm.tm_gmtoff;
1128         *tp = timegm(&tm) - *tp;
1129     }
1130     return true;
1131 }