nntp/nntp.c

   1 /*
   2  * Copyright notice from original mutt:
   3  * Copyright (C) 1998 Brandon Long <blong@fiction.net>
   4  * Copyright (C) 1999 Andrej Gritsenko <andrej@lucky.net>
   5  * Copyright (C) 2000-2002 Vsevolod Volkov <vvv@mutt.org.ua>
   6  *
   7  * This file is part of mutt-ng, see http://www.muttng.org/.
   8  * It's licensed under the GNU General Public License,
   9  * please see the file GPL in the top level source directory.
  10  */
  11
  12 #ifdef HAVE_CONFIG_H
  13 #include <config.h>
  14 #endif
  15
  16 #include "mutt.h"
  17 #include "mutt_curses.h"
  18 #include "sort.h"
  19 #include "mx.h"
  20 #include "mx_nntp.h"
  21 #include "mime.h"
  22 #include "rfc1524.h"
  23 #include "rfc2047.h"
  24 #include "nntp.h"
  25
  26 #include "mutt_crypt.h"
  27
  28 #include "lib/mem.h"
  29 #include "lib/str.h"
  30 #include "lib/intl.h"
  31 #include "lib/debug.h"
  32
  33 #include <unistd.h>
  34 #include <string.h>
  35 #include <ctype.h>
  36 #include <stdlib.h>
  37
  38 static unsigned int _checked = 0;
  39
  40 static void nntp_error (const char *where, const char *msg) {
  41   debug_print (1, ("unexpected response in %s: %s\n", where, msg));
  42 }
  43
  44 static int nntp_auth (NNTP_SERVER * serv)
  45 {
  46   CONNECTION *conn = serv->conn;
  47   char buf[STRING];
  48   unsigned char flags = conn->account.flags;
  49
  50   if (mutt_account_getuser (&conn->account) || !conn->account.user[0] ||
  51       mutt_account_getpass (&conn->account) || !conn->account.pass[0]) {
  52     conn->account.flags = flags;
  53     return -2;
  54   }
  55
  56   mutt_message _("Logging in...");
  57
  58   snprintf (buf, sizeof (buf), "AUTHINFO USER %s\r\n", conn->account.user);
  59   mutt_socket_write (conn, buf);
  60   if (mutt_socket_readln (buf, sizeof (buf), conn) < 0) {
  61     conn->account.flags = flags;
  62     return -1;
  63   }
  64
  65 #ifdef DEBUG
  66   /* don't print the password unless we're at the ungodly debugging level */
  67   if (DebugLevel < M_SOCK_LOG_FULL)
  68     debug_print (M_SOCK_LOG_CMD, ("> AUTHINFO PASS *\n"));
  69 #endif
  70   snprintf (buf, sizeof (buf), "AUTHINFO PASS %s\r\n", conn->account.pass);
  71   mutt_socket_write_d (conn, buf, M_SOCK_LOG_FULL);
  72   if (mutt_socket_readln (buf, sizeof (buf), conn) < 0) {
  73     conn->account.flags = flags;
  74     return -1;
  75   }
  76
  77   if (str_ncmp ("281", buf, 3)) {
  78     conn->account.flags = flags;
  79     mutt_error _("Login failed.");
  80
  81     sleep (2);
  82     return -3;
  83   }
  84
  85   return 0;
  86 }
  87
  88 static int nntp_connect_error (NNTP_SERVER * serv)
  89 {
  90   serv->status = NNTP_NONE;
  91   mutt_socket_close (serv->conn);
  92   mutt_error _("Server closed connection!");
  93
  94   sleep (2);
  95   return -1;
  96 }
  97
  98 static int nntp_connect_and_auth (NNTP_SERVER * serv)
  99 {
 100   CONNECTION *conn = serv->conn;
 101   char buf[STRING];
 102   int rc;
 103
 104   serv->status = NNTP_NONE;
 105
 106   if (mutt_socket_open (conn) < 0)
 107     return -1;
 108
 109   if (mutt_socket_readln (buf, sizeof (buf), conn) < 0)
 110     return nntp_connect_error (serv);
 111
 112   if (!str_ncmp ("200", buf, 3))
 113     mutt_message (_("Connected to %s. Posting ok."), conn->account.host);
 114   else if (!str_ncmp ("201", buf, 3))
 115     mutt_message (_("Connected to %s. Posting NOT ok."), conn->account.host);
 116   else {
 117     mutt_socket_close (conn);
 118     str_skip_trailws (buf);
 119     mutt_error ("%s", buf);
 120     sleep (2);
 121     return -1;
 122   }
 123
 124   sleep (1);
 125
 126   /* Tell INN to switch to mode reader if it isn't so. Ignore all
 127      returned codes and messages. */
 128   mutt_socket_write (conn, "MODE READER\r\n");
 129   if (mutt_socket_readln (buf, sizeof (buf), conn) < 0)
 130     return nntp_connect_error (serv);
 131
 132   mutt_socket_write (conn, "STAT\r\n");
 133   if (mutt_socket_readln (buf, sizeof (buf), conn) < 0)
 134     return nntp_connect_error (serv);
 135
 136   if (!(conn->account.flags & M_ACCT_USER) && str_ncmp ("480", buf, 3)) {
 137     serv->status = NNTP_OK;
 138     return 0;
 139   }
 140
 141   rc = nntp_auth (serv);
 142   if (rc == -1)
 143     return nntp_connect_error (serv);
 144   if (rc == -2) {
 145     mutt_socket_close (conn);
 146     serv->status = NNTP_BYE;
 147     return -1;
 148   }
 149   if (rc < 0) {
 150     mutt_socket_close (conn);
 151     mutt_error _("Login failed.");
 152
 153     sleep (2);
 154     return -1;
 155   }
 156   serv->status = NNTP_OK;
 157   return 0;
 158 }
 159
 160 static int nntp_attempt_features (NNTP_SERVER * serv)
 161 {
 162   char buf[LONG_STRING];
 163   CONNECTION *conn = serv->conn;
 164
 165   mutt_socket_write (conn, "XOVER\r\n");
 166   if (mutt_socket_readln (buf, sizeof (buf), conn) < 0)
 167     return nntp_connect_error (serv);
 168   if (str_ncmp ("500", buf, 3))
 169     serv->hasXOVER = 1;
 170
 171   mutt_socket_write (conn, "XPAT\r\n");
 172   if (mutt_socket_readln (buf, sizeof (buf), conn) < 0)
 173     return nntp_connect_error (serv);
 174   if (str_ncmp ("500", buf, 3))
 175     serv->hasXPAT = 1;
 176
 177   mutt_socket_write (conn, "LISTGROUP\r\n");
 178   if (mutt_socket_readln (buf, sizeof (buf), conn) < 0)
 179     return (nntp_connect_error (serv));
 180   if (str_ncmp ("500", buf, 3))
 181     serv->hasLISTGROUP = 1;
 182
 183   mutt_socket_write (conn, "XGTITLE +\r\n");
 184   if (mutt_socket_readln (buf, sizeof (buf), conn) < 0)
 185     return nntp_connect_error (serv);
 186   if (str_ncmp ("500", buf, 3))
 187     serv->hasXGTITLE = 1;
 188
 189   if (!str_ncmp ("282", buf, 3)) {
 190     do {
 191       if (mutt_socket_readln (buf, sizeof (buf), conn) < 0)
 192         return nntp_connect_error (serv);
 193     } while (!(buf[0] == '.' && buf[1] == '\0'));
 194   }
 195
 196   return 0;
 197 }
 198
 199 static int nntp_open_connection (NNTP_SERVER * serv)
 200 {
 201   if (serv->status == NNTP_OK)
 202     return 0;
 203   if (serv->status == NNTP_BYE)
 204     return -1;
 205   if (nntp_connect_and_auth (serv) < 0)
 206     return -1;
 207   if (nntp_attempt_features (serv) < 0)
 208     return -1;
 209   return 0;
 210 }
 211
 212 static int nntp_reconnect (NNTP_SERVER * serv)
 213 {
 214   char buf[SHORT_STRING];
 215
 216   mutt_socket_close (serv->conn);
 217
 218   FOREVER {
 219     if (nntp_connect_and_auth (serv) == 0)
 220       return 0;
 221
 222     snprintf (buf, sizeof (buf), _("Connection to %s lost. Reconnect?"),
 223               serv->conn->account.host);
 224     if (query_quadoption (OPT_NNTPRECONNECT, buf) != M_YES) {
 225       serv->status = NNTP_BYE;
 226       return -1;
 227     }
 228   }
 229 }
 230
 231 /* Send data from line[LONG_STRING] and receive answer to same line */
 232 static int mutt_nntp_query (NNTP_DATA * data, char *line, size_t linelen)
 233 {
 234   char buf[LONG_STRING];
 235   int done = TRUE;
 236
 237   if (data->nserv->status == NNTP_BYE)
 238     return -1;
 239
 240   do {
 241     if (*line) {
 242       mutt_socket_write (data->nserv->conn, line);
 243     }
 244     else if (data->group) {
 245       snprintf (buf, sizeof (buf), "GROUP %s\r\n", data->group);
 246       mutt_socket_write (data->nserv->conn, buf);
 247     }
 248
 249     done = TRUE;
 250     if (mutt_socket_readln (buf, sizeof (buf), data->nserv->conn) < 0) {
 251       if (nntp_reconnect (data->nserv) < 0)
 252         return -1;
 253
 254       if (data->group) {
 255         snprintf (buf, sizeof (buf), "GROUP %s\r\n", data->group);
 256         mutt_socket_write (data->nserv->conn, buf);
 257         if (mutt_socket_readln (buf, sizeof (buf), data->nserv->conn) < 0)
 258           return -1;
 259       }
 260       if (*line)
 261         done = FALSE;
 262     }
 263     else if ((!str_ncmp ("480", buf, 3)) && nntp_auth (data->nserv) < 0)
 264       return -1;
 265   } while (!done);
 266
 267   strfcpy (line, buf, linelen);
 268   return 0;
 269 }
 270
 271 /*
 272  * This function calls  funct(*line, *data)  for each received line,
 273  * funct(NULL, *data)  if  rewind(*data)  needs, exits when fail or done.
 274  * Returned codes:
 275  *  0 - successful,
 276  *  1 - correct but not performed (may be, have to be continued),
 277  * -1 - conection lost,
 278  * -2 - invalid command or execution error,
 279  * -3 - error in funct(*line, *data).
 280  */
 281 static int mutt_nntp_fetch (NNTP_DATA * nntp_data, char *query, char *msg,
 282                             int (*funct) (char *, void *), void *data,
 283                             int tagged)
 284 {
 285   char buf[LONG_STRING];
 286   char *inbuf, *p;
 287   int done = FALSE;
 288   int chunk, line;
 289   size_t lenbuf = 0;
 290   int ret;
 291
 292   do {
 293     strfcpy (buf, query, sizeof (buf));
 294     if (mutt_nntp_query (nntp_data, buf, sizeof (buf)) < 0)
 295       return -1;
 296     if (buf[0] == '5')
 297       return -2;
 298     if (buf[0] != '2')
 299       return 1;
 300
 301     ret = 0;
 302     line = 0;
 303     inbuf = mem_malloc (sizeof (buf));
 304
 305     FOREVER {
 306       chunk = mutt_socket_readln_d (buf, sizeof (buf), nntp_data->nserv->conn,
 307                                     M_SOCK_LOG_HDR);
 308       if (chunk < 0)
 309         break;
 310
 311       p = buf;
 312       if (!lenbuf && buf[0] == '.') {
 313         if (buf[1] == '\0') {
 314           done = TRUE;
 315           break;
 316         }
 317         if (buf[1] == '.')
 318           p++;
 319       }
 320
 321       strfcpy (inbuf + lenbuf, p, sizeof (buf));
 322
 323       if (chunk >= sizeof (buf)) {
 324         lenbuf += str_len (p);
 325       }
 326       else {
 327         line++;
 328         if (msg && ReadInc && (line % ReadInc == 0)) {
 329           if (tagged)
 330             mutt_message (_("%s (tagged: %d) %d"), msg, tagged, line);
 331           else
 332             mutt_message ("%s %d", msg, line);
 333         }
 334
 335         if (ret == 0 && funct (inbuf, data) < 0)
 336           ret = -3;
 337         lenbuf = 0;
 338       }
 339
 340       mem_realloc (&inbuf, lenbuf + sizeof (buf));
 341     }
 342     mem_free (&inbuf);
 343     funct (NULL, data);
 344   }
 345   while (!done);
 346   return ret;
 347 }
 348
 349 static int nntp_read_tempfile (char *line, void *file)
 350 {
 351   FILE *f = (FILE *) file;
 352
 353   if (!line)
 354     rewind (f);
 355   else {
 356     fputs (line, f);
 357     if (fputc ('\n', f) == EOF)
 358       return -1;
 359   }
 360   return 0;
 361 }
 362
 363 static void nntp_parse_xref (CONTEXT * ctx, char *group, char *xref,
 364                              HEADER * h)
 365 {
 366   register char *p, *b;
 367   register char *colon = NULL;
 368
 369   b = p = xref;
 370   while (*p) {
 371     /* skip to next word */
 372     b = p;
 373     while (*b && ((*b == ' ') || (*b == '\t')))
 374       b++;
 375     p = b;
 376     colon = NULL;
 377     /* skip to end of word */
 378     while (*p && (*p != ' ') && (*p != '\t')) {
 379       if (*p == ':')
 380         colon = p;
 381       p++;
 382     }
 383     if (*p) {
 384       *p = '\0';
 385       p++;
 386     }
 387     if (colon) {
 388       *colon = '\0';
 389       colon++;
 390       nntp_get_status (ctx, h, p, atoi (colon));
 391       if (h && h->article_num == 0 && str_cmp (group, b) == 0)
 392         h->article_num = atoi (colon);
 393     }
 394   }
 395 }
 396
 397 /*
 398  * returns:
 399  *  0 on success
 400  *  1 if article not found
 401  * -1 if read or write error on tempfile or socket
 402  */
 403 static int nntp_read_header (CONTEXT * ctx, const char *msgid,
 404                              int article_num)
 405 {
 406   NNTP_DATA *nntp_data = ((NNTP_DATA *) ctx->data);
 407   FILE *f;
 408   char buf[LONG_STRING];
 409   char tempfile[_POSIX_PATH_MAX];
 410   int ret;
 411   HEADER *h = ctx->hdrs[ctx->msgcount];
 412
 413   mutt_mktemp (tempfile);
 414   if (!(f = safe_fopen (tempfile, "w+")))
 415     return -1;
 416
 417   if (!msgid)
 418     snprintf (buf, sizeof (buf), "HEAD %d\r\n", article_num);
 419   else
 420     snprintf (buf, sizeof (buf), "HEAD %s\r\n", msgid);
 421
 422   ret = mutt_nntp_fetch (nntp_data, buf, NULL, nntp_read_tempfile, f, 0);
 423   if (ret) {
 424     if (ret != -1)
 425       debug_print (1, ("%s\n", buf));
 426     fclose (f);
 427     unlink (tempfile);
 428     return (ret == -1 ? -1 : 1);
 429   }
 430
 431   h->article_num = article_num;
 432   h->env = mutt_read_rfc822_header (f, h, 0, 0);
 433   fclose (f);
 434   unlink (tempfile);
 435
 436   if (h->env->xref != NULL)
 437     nntp_parse_xref (ctx, nntp_data->group, h->env->xref, h);
 438   else if (h->article_num == 0 && msgid) {
 439     snprintf (buf, sizeof (buf), "STAT %s\r\n", msgid);
 440     if (mutt_nntp_query (nntp_data, buf, sizeof (buf)) == 0)
 441       h->article_num = atoi (buf + 4);
 442   }
 443
 444   return 0;
 445 }
 446
 447 static int parse_description (char *line, void *n)
 448 {
 449 #define news ((NNTP_SERVER *) n)
 450   register char *d = line;
 451   NNTP_DATA *data;
 452
 453   if (!line)
 454     return 0;
 455   while (*d && *d != '\t' && *d != ' ')
 456     d++;
 457   *d = 0;
 458   d++;
 459   while (*d && (*d == '\t' || *d == ' '))
 460     d++;
 461   debug_print (2, ("group: %s, desc: %s\n", line, d));
 462   if ((data = (NNTP_DATA *) hash_find (news->newsgroups, line)) != NULL &&
 463       str_cmp (d, data->desc)) {
 464     mem_free (&data->desc);
 465     data->desc = str_dup (d);
 466   }
 467   return 0;
 468 #undef news
 469 }
 470
 471 static void nntp_get_desc (NNTP_DATA * data, char *mask, char *msg)
 472 {
 473   char buf[STRING];
 474
 475   if (!option (OPTLOADDESC) || !data || !data->nserv)
 476     return;
 477
 478   /* Get newsgroup description, if we can */
 479   if (data->nserv->hasXGTITLE)
 480     snprintf (buf, sizeof (buf), "XGTITLE %s\r\n", mask);
 481   else
 482     snprintf (buf, sizeof (buf), "LIST NEWSGROUPS %s\r\n", mask);
 483   if (mutt_nntp_fetch (data, buf, msg, parse_description, data->nserv, 0) !=
 484       0) {
 485 #ifdef DEBUG
 486     nntp_error ("nntp_get_desc()", buf);
 487 #endif
 488   }
 489 }
 490
 491 /*
 492  * XOVER returns a tab separated list of:
 493  * id|subject|from|date|Msgid|references|bytes|lines|xref
 494  *
 495  * This has to duplicate some of the functionality of
 496  * mutt_read_rfc822_header(), since it replaces the call to that (albeit with
 497  * a limited number of headers which are "parsed" by placement in the list)
 498  */
 499 static int nntp_parse_xover (CONTEXT * ctx, char *buf, HEADER * hdr)
 500 {
 501   NNTP_DATA *nntp_data = (NNTP_DATA *) ctx->data;
 502   char *p, *b;
 503   int x, done = 0;
 504
 505   hdr->env = mutt_new_envelope ();
 506   hdr->env->newsgroups = str_dup (nntp_data->group);
 507   hdr->content = mutt_new_body ();
 508   hdr->content->type = TYPETEXT;
 509   hdr->content->subtype = str_dup ("plain");
 510   hdr->content->encoding = ENC7BIT;
 511   hdr->content->disposition = DISPINLINE;
 512   hdr->content->length = -1;
 513   b = p = buf;
 514
 515   for (x = 0; !done && x < 9; x++) {
 516     /* if from file, need to skip newline character */
 517     while (*p && *p != '\n' && *p != '\t')
 518       p++;
 519     if (!*p)
 520       done++;
 521     *p = '\0';
 522     p++;
 523     switch (x) {
 524     case 0:
 525
 526       hdr->article_num = atoi (b);
 527       nntp_get_status (ctx, hdr, NULL, hdr->article_num);
 528       break;
 529     case 1:
 530       hdr->env->subject = str_dup (b);
 531       /* Now we need to do the things which would normally be done in
 532        * mutt_read_rfc822_header() */
 533       if (hdr->env->subject) {
 534         regmatch_t pmatch[1];
 535
 536         rfc2047_decode (&hdr->env->subject);
 537
 538         if (regexec (ReplyRegexp.rx, hdr->env->subject, 1, pmatch, 0) == 0)
 539           hdr->env->real_subj = hdr->env->subject + pmatch[0].rm_eo;
 540         else
 541           hdr->env->real_subj = hdr->env->subject;
 542       }
 543       break;
 544     case 2:
 545       rfc822_free_address (&hdr->env->from);
 546       hdr->env->from = rfc822_parse_adrlist (hdr->env->from, b);
 547       rfc2047_decode_adrlist (hdr->env->from);
 548       break;
 549     case 3:
 550       hdr->date_sent = mutt_parse_date (b, hdr);
 551       hdr->received = hdr->date_sent;
 552       break;
 553     case 4:
 554       mem_free (&hdr->env->message_id);
 555       hdr->env->message_id = str_dup (b);
 556       break;
 557     case 5:
 558       mutt_free_list (&hdr->env->references);
 559       hdr->env->references = mutt_parse_references (b, 0);
 560       break;
 561     case 6:
 562       hdr->content->length = atoi (b);
 563       break;
 564     case 7:
 565       hdr->lines = atoi (b);
 566       break;
 567     case 8:
 568       if (!hdr->read)
 569         mem_free (&hdr->env->xref);
 570       b = b + 6;                /* skips the "Xref: " */
 571       hdr->env->xref = str_dup (b);
 572       nntp_parse_xref (ctx, nntp_data->group, b, hdr);
 573     }
 574     if (!*p)
 575       return -1;
 576     b = p;
 577   }
 578   return 0;
 579 }
 580
 581 typedef struct {
 582   CONTEXT *ctx;
 583   unsigned int base;
 584   unsigned int first;
 585   unsigned int last;
 586   unsigned short *messages;
 587   char *msg;
 588 } FETCH_CONTEXT;
 589
 590 #define fc ((FETCH_CONTEXT *) c)
 591 static int _nntp_fetch_numbers (unsigned int num, void *c)
 592 {
 593   if (num < fc->base || num > fc->last)
 594     return 0;
 595   fc->messages[num - fc->base] = 1;
 596   return 0;
 597 }
 598 static int nntp_fetch_numbers (char *line, void *c)
 599 {
 600   if (!line)
 601     return 0;
 602   return (_nntp_fetch_numbers ((unsigned int) atoi (line), c));
 603 }
 604
 605 static int add_xover_line (char *line, void *c)
 606 {
 607   unsigned int num, total;
 608   CONTEXT *ctx = fc->ctx;
 609   NNTP_DATA *data = (NNTP_DATA *) ctx->data;
 610
 611   if (!line)
 612     return 0;
 613
 614   if (ctx->msgcount >= ctx->hdrmax)
 615     mx_alloc_memory (ctx);
 616   ctx->hdrs[ctx->msgcount] = mutt_new_header ();
 617   ctx->hdrs[ctx->msgcount]->index = ctx->msgcount;
 618
 619   nntp_parse_xover (ctx, line, ctx->hdrs[ctx->msgcount]);
 620   num = ctx->hdrs[ctx->msgcount]->article_num;
 621
 622   if (num >= fc->first && num <= fc->last && fc->messages[num - fc->base]) {
 623     ctx->msgcount++;
 624     if (num > data->lastLoaded)
 625       data->lastLoaded = num;
 626     num = num - fc->first + 1;
 627     total = fc->last - fc->first + 1;
 628     if (!ctx->quiet && fc->msg && ReadInc && (num % ReadInc == 0))
 629       mutt_message ("%s %d/%d", fc->msg, num, total);
 630   }
 631   else
 632     mutt_free_header (&ctx->hdrs[ctx->msgcount]);       /* skip it */
 633
 634   return 0;
 635 }
 636
 637 #undef fc
 638
 639 static int nntp_fetch_headers (CONTEXT * ctx, unsigned int first,
 640                                unsigned int last)
 641 {
 642   char buf[HUGE_STRING];
 643   char *msg = _("Fetching message headers...");
 644   NNTP_DATA *nntp_data = ((NNTP_DATA *) ctx->data);
 645   int ret;
 646   int num;
 647   int oldmsgcount;
 648   unsigned int current;
 649   FILE *f;
 650   FETCH_CONTEXT fc;
 651
 652   /* if empty group or nothing to do */
 653   if (!last || first > last)
 654     return 0;
 655
 656   /* fetch list of articles */
 657   mutt_message _("Fetching list of articles...");
 658
 659   fc.ctx = ctx;
 660   fc.base = first;
 661   fc.last = last;
 662   fc.messages = mem_calloc (last - first + 1, sizeof (unsigned short));
 663   if (nntp_data->nserv->hasLISTGROUP) {
 664     snprintf (buf, sizeof (buf), "LISTGROUP %s\r\n", nntp_data->group);
 665     if (mutt_nntp_fetch (nntp_data, buf, NULL, nntp_fetch_numbers, &fc, 0) !=
 666         0) {
 667       mutt_error (_("LISTGROUP command failed: %s"), buf);
 668       sleep (2);
 669 #ifdef DEBUG
 670       nntp_error ("nntp_fetch_headers()", buf);
 671 #endif
 672       mem_free (&fc.messages);
 673       return -1;
 674     }
 675   }
 676   else {
 677     for (num = 0; num < last - first + 1; num++)
 678       fc.messages[num] = 1;
 679   }
 680
 681   /* CACHE: must be loaded xover cache here */
 682   num = nntp_data->lastCached - first + 1;
 683   if (option (OPTNEWSCACHE) && nntp_data->cache && num > 0) {
 684     nntp_cache_expand (buf, nntp_data->cache);
 685     mutt_message _("Fetching headers from cache...");
 686
 687     if ((f = safe_fopen (buf, "r"))) {
 688       int r = 0;
 689
 690       /* counting number of lines */
 691       while (fgets (buf, sizeof (buf), f) != NULL)
 692         r++;
 693       rewind (f);
 694       while (r > num && fgets (buf, sizeof (buf), f) != NULL)
 695         r--;
 696       oldmsgcount = ctx->msgcount;
 697       fc.first = first;
 698       fc.last = first + num - 1;
 699       fc.msg = NULL;
 700       while (fgets (buf, sizeof (buf), f) != NULL)
 701         add_xover_line (buf, &fc);
 702       fclose (f);
 703       nntp_data->lastLoaded = fc.last;
 704       first = fc.last + 1;
 705       if (ctx->msgcount > oldmsgcount)
 706         mx_update_context (ctx, ctx->msgcount - oldmsgcount);
 707     }
 708     else
 709       nntp_delete_cache (nntp_data);
 710   }
 711   num = last - first + 1;
 712   if (num <= 0) {
 713     mem_free (&fc.messages);
 714     return 0;
 715   }
 716
 717   /*
 718    * Without XOVER, we have to fetch each article header and parse
 719    * it.  With XOVER, we ask for all of them
 720    */
 721   mutt_message (msg);
 722   if (nntp_data->nserv->hasXOVER) {
 723     oldmsgcount = ctx->msgcount;
 724     fc.first = first;
 725     fc.last = last;
 726     fc.msg = msg;
 727     snprintf (buf, sizeof (buf), "XOVER %d-%d\r\n", first, last);
 728     ret = mutt_nntp_fetch (nntp_data, buf, NULL, add_xover_line, &fc, 0);
 729     if (ctx->msgcount > oldmsgcount)
 730       mx_update_context (ctx, ctx->msgcount - oldmsgcount);
 731     if (ret != 0) {
 732       mutt_error (_("XOVER command failed: %s"), buf);
 733 #ifdef DEBUG
 734       nntp_error ("nntp_fetch_headers()", buf);
 735 #endif
 736       mem_free (&fc.messages);
 737       return -1;
 738     }
 739     /* fetched OK */
 740   }
 741   else
 742     for (current = first; current <= last; current++) {
 743       HEADER *h;
 744
 745       ret = current - first + 1;
 746       mutt_message ("%s %d/%d", msg, ret, num);
 747
 748       if (!fc.messages[current - fc.base])
 749         continue;
 750
 751       if (ctx->msgcount >= ctx->hdrmax)
 752         mx_alloc_memory (ctx);
 753       h = ctx->hdrs[ctx->msgcount] = mutt_new_header ();
 754       h->index = ctx->msgcount;
 755
 756       ret = nntp_read_header (ctx, NULL, current);
 757       if (ret == 0) {           /* Got article. Fetch next header */
 758         nntp_get_status (ctx, h, NULL, h->article_num);
 759         ctx->msgcount++;
 760         mx_update_context (ctx, 1);
 761       }
 762       else
 763         mutt_free_header (&h);  /* skip it */
 764       if (ret == -1) {
 765         mem_free (&fc.messages);
 766         return -1;
 767       }
 768
 769       if (current > nntp_data->lastLoaded)
 770         nntp_data->lastLoaded = current;
 771     }
 772   mem_free (&fc.messages);
 773   nntp_data->lastLoaded = last;
 774   mutt_clear_error ();
 775   return 0;
 776 }
 777
 778 /*
 779  * currently, nntp "mailbox" is "newsgroup"
 780  */
 781 int nntp_open_mailbox (CONTEXT * ctx)
 782 {
 783   NNTP_DATA *nntp_data;
 784   NNTP_SERVER *serv;
 785   char buf[HUGE_STRING];
 786   char server[LONG_STRING];
 787   int count = 0;
 788   unsigned int first;
 789   ACCOUNT acct;
 790
 791   if (nntp_parse_url (ctx->path, &acct, buf, sizeof (buf)) < 0 || !*buf) {
 792     mutt_error (_("%s is an invalid newsgroup specification!"), ctx->path);
 793     mutt_sleep (2);
 794     return -1;
 795   }
 796
 797   server[0] = '\0';
 798   nntp_expand_path (server, sizeof (server), &acct);
 799   if (!(serv = mutt_select_newsserver (server)) || serv->status != NNTP_OK)
 800     return -1;
 801
 802   CurrentNewsSrv = serv;
 803
 804   /* create NNTP-specific state struct if nof found in list */
 805   if ((nntp_data = (NNTP_DATA *) hash_find (serv->newsgroups, buf)) == NULL) {
 806     nntp_data = mem_calloc (1, sizeof (NNTP_DATA) + str_len (buf) + 1);
 807     nntp_data->group = (char *) nntp_data + sizeof (NNTP_DATA);
 808     strcpy (nntp_data->group, buf);
 809     hash_insert (serv->newsgroups, nntp_data->group, nntp_data, 0);
 810     nntp_add_to_list (serv, nntp_data);
 811   }
 812   ctx->data = nntp_data;
 813   nntp_data->nserv = serv;
 814
 815   mutt_message (_("Selecting %s..."), nntp_data->group);
 816
 817   if (!nntp_data->desc) {
 818     nntp_get_desc (nntp_data, nntp_data->group, NULL);
 819     if (nntp_data->desc)
 820       nntp_save_cache_index (serv);
 821   }
 822
 823   buf[0] = 0;
 824   if (mutt_nntp_query (nntp_data, buf, sizeof (buf)) < 0) {
 825 #ifdef DEBUG
 826     nntp_error ("nntp_open_mailbox()", buf);
 827 #endif
 828     return -1;
 829   }
 830
 831   if (str_ncmp ("211", buf, 3)) {
 832     LIST *l = serv->list;
 833
 834     /* GROUP command failed */
 835     if (!str_ncmp ("411", buf, 3)) {
 836       mutt_error (_("Newsgroup %s not found on server %s"),
 837                   nntp_data->group, serv->conn->account.host);
 838
 839       /* CACHE: delete cache and line from .index */
 840       nntp_delete_cache (nntp_data);
 841       hash_delete (serv->newsgroups, nntp_data->group, NULL,
 842                    nntp_delete_data);
 843       while (l && l->data != (void *) nntp_data)
 844         l = l->next;
 845       if (l)
 846         l->data = NULL;
 847
 848       sleep (2);
 849     }
 850
 851     return -1;
 852   }
 853
 854   sscanf (buf + 4, "%d %u %u %s", &count, &nntp_data->firstMessage,
 855           &nntp_data->lastMessage, buf);
 856
 857   nntp_data->deleted = 0;
 858
 859   time (&serv->check_time);
 860
 861   /*
 862    * Check for max adding context. If it is greater than $nntp_context,
 863    * strip off extra articles
 864    */
 865   first = nntp_data->firstMessage;
 866   if (NntpContext && nntp_data->lastMessage - first + 1 > NntpContext)
 867     first = nntp_data->lastMessage - NntpContext + 1;
 868   if (first)
 869     nntp_data->lastLoaded = first - 1;
 870   return nntp_fetch_headers (ctx, first, nntp_data->lastMessage);
 871 }
 872
 873 int nntp_fetch_message (MESSAGE * msg, CONTEXT * ctx, int msgno)
 874 {
 875   char buf[LONG_STRING];
 876   char path[_POSIX_PATH_MAX];
 877   NNTP_CACHE *cache;
 878   char *m = _("Fetching message...");
 879   int ret;
 880
 881   /* see if we already have the message in our cache */
 882   cache =
 883     &((NNTP_DATA *) ctx->data)->acache[ctx->hdrs[msgno]->index %
 884                                        NNTP_CACHE_LEN];
 885
 886   /* if everything is fine, assign msg->fp and return */
 887   if (cache->path && cache->index == ctx->hdrs[msgno]->index &&
 888       (msg->fp = fopen (cache->path, "r")))
 889     return 0;
 890
 891   /* clear the previous entry */
 892   unlink (cache->path);
 893   free (cache->path);
 894
 895   mutt_message (m);
 896
 897   cache->index = ctx->hdrs[msgno]->index;
 898   mutt_mktemp (path);
 899   cache->path = str_dup (path);
 900   if (!(msg->fp = safe_fopen (path, "w+"))) {
 901     mem_free (&cache->path);
 902     return -1;
 903   }
 904
 905   if (ctx->hdrs[msgno]->article_num == 0)
 906     snprintf (buf, sizeof (buf), "ARTICLE %s\r\n",
 907               ctx->hdrs[msgno]->env->message_id);
 908   else
 909     snprintf (buf, sizeof (buf), "ARTICLE %d\r\n",
 910               ctx->hdrs[msgno]->article_num);
 911
 912   ret = mutt_nntp_fetch ((NNTP_DATA *) ctx->data, buf, m, nntp_read_tempfile,
 913                          msg->fp, ctx->tagged);
 914   if (ret == 1) {
 915     mutt_error (_("Article %d not found on server"),
 916                 ctx->hdrs[msgno]->article_num);
 917     debug_print (1, ("%s\n", buf));
 918   }
 919
 920   if (ret) {
 921     fclose (msg->fp);
 922     unlink (path);
 923     mem_free (&cache->path);
 924     return -1;
 925   }
 926
 927   mutt_free_envelope (&ctx->hdrs[msgno]->env);
 928   ctx->hdrs[msgno]->env =
 929     mutt_read_rfc822_header (msg->fp, ctx->hdrs[msgno], 0, 0);
 930   /* fix content length */
 931   fseek (msg->fp, 0, SEEK_END);
 932   ctx->hdrs[msgno]->content->length = ftell (msg->fp) -
 933     ctx->hdrs[msgno]->content->offset;
 934
 935   /* this is called in mutt before the open which fetches the message,
 936    * which is probably wrong, but we just call it again here to handle
 937    * the problem instead of fixing it.
 938    */
 939   mutt_parse_mime_message (ctx, ctx->hdrs[msgno]);
 940
 941   /* These would normally be updated in mx_update_context(), but the
 942    * full headers aren't parsed with XOVER, so the information wasn't
 943    * available then.
 944    */
 945   ctx->hdrs[msgno]->security = crypt_query (ctx->hdrs[msgno]->content);
 946
 947   mutt_clear_error ();
 948   rewind (msg->fp);
 949
 950   return 0;
 951 }
 952
 953 /* Post article */
 954 int nntp_post (const char *msg)
 955 {
 956   char buf[LONG_STRING];
 957   size_t len;
 958   FILE *f;
 959   NNTP_DATA *nntp_data;
 960
 961   if (Context && Context->magic == M_NNTP)
 962     nntp_data = (NNTP_DATA *) Context->data;
 963   else {
 964     if (!(CurrentNewsSrv = mutt_select_newsserver (NewsServer)) ||
 965         !CurrentNewsSrv->list || !CurrentNewsSrv->list->data) {
 966       mutt_error (_("Can't post article. No connection to news server."));
 967       return -1;
 968     }
 969     nntp_data = (NNTP_DATA *) CurrentNewsSrv->list->data;
 970   }
 971
 972   if (!(f = safe_fopen (msg, "r"))) {
 973     mutt_error (_("Can't post article. Unable to open %s"), msg);
 974     return -1;
 975   }
 976
 977   strfcpy (buf, "POST\r\n", sizeof (buf));
 978   if (mutt_nntp_query (nntp_data, buf, sizeof (buf)) < 0) {
 979     mutt_error (_("Can't post article. Connection to %s lost."),
 980                 nntp_data->nserv->conn->account.host);
 981     return -1;
 982   }
 983   if (buf[0] != '3') {
 984     mutt_error (_("Can't post article: %s"), buf);
 985     return -1;
 986   }
 987
 988   buf[0] = '.';
 989   buf[1] = '\0';
 990   while (fgets (buf + 1, sizeof (buf) - 2, f) != NULL) {
 991     len = str_len (buf);
 992     if (buf[len - 1] == '\n') {
 993       buf[len - 1] = '\r';
 994       buf[len] = '\n';
 995       len++;
 996       buf[len] = '\0';
 997     }
 998     if (buf[1] == '.')
 999       mutt_socket_write_d (nntp_data->nserv->conn, buf, M_SOCK_LOG_HDR);
1000     else
1001       mutt_socket_write_d (nntp_data->nserv->conn, buf + 1, M_SOCK_LOG_HDR);
1002   }
1003   fclose (f);
1004
1005   if (buf[str_len (buf) - 1] != '\n')
1006     mutt_socket_write_d (nntp_data->nserv->conn, "\r\n", M_SOCK_LOG_HDR);
1007   mutt_socket_write_d (nntp_data->nserv->conn, ".\r\n", M_SOCK_LOG_HDR);
1008   if (mutt_socket_readln (buf, sizeof (buf), nntp_data->nserv->conn) < 0) {
1009     mutt_error (_("Can't post article. Connection to %s lost."),
1010                 nntp_data->nserv->conn->account.host);
1011     return -1;
1012   }
1013   if (buf[0] != '2') {
1014     mutt_error (_("Can't post article: %s"), buf);
1015     return -1;
1016   }
1017
1018   return 0;
1019 }
1020
1021 /* nntp_logout_all: close all open connections. */
1022 void nntp_logout_all (void)
1023 {
1024   char buf[LONG_STRING];
1025   CONNECTION *conn;
1026
1027   conn = mutt_socket_head ();
1028
1029   while (conn) {
1030     CONNECTION* next = conn->next;
1031     if (conn->account.type == M_ACCT_TYPE_NNTP) {
1032       mutt_message (_("Closing connection to %s..."), conn->account.host);
1033       mutt_socket_write (conn, "QUIT\r\n");
1034       mutt_socket_readln (buf, sizeof (buf), conn);
1035       mutt_clear_error ();
1036       mutt_socket_close (conn);
1037       mutt_socket_free (conn);
1038     }
1039     conn = next;
1040   }
1041 }
1042
1043 static void nntp_free_acache (NNTP_DATA * data)
1044 {
1045   int i;
1046
1047   for (i = 0; i < NNTP_CACHE_LEN; i++) {
1048     if (data->acache[i].path) {
1049       unlink (data->acache[i].path);
1050       mem_free (&data->acache[i].path);
1051     }
1052   }
1053 }
1054
1055 void nntp_delete_data (void *p)
1056 {
1057   NNTP_DATA *data = (NNTP_DATA *) p;
1058
1059   if (!p)
1060     return;
1061   mem_free (&data->entries);
1062   mem_free (&data->desc);
1063   mem_free (&data->cache);
1064   nntp_free_acache (data);
1065   mem_free (p);
1066 }
1067
1068 int nntp_sync_mailbox (CONTEXT * ctx, int unused1, int* unused2)
1069 {
1070   NNTP_DATA *data = ctx->data;
1071
1072   /* CACHE: update cache and .index files */
1073   if ((option (OPTSAVEUNSUB) || data->subscribed))
1074     nntp_save_cache_group (ctx);
1075   nntp_free_acache (data);
1076
1077   data->nserv->check_time = 0;  /* next nntp_check_mailbox() will really check */
1078   return 0;
1079 }
1080
1081 void nntp_fastclose_mailbox (CONTEXT * ctx)
1082 {
1083   NNTP_DATA *data = (NNTP_DATA *) ctx->data, *tmp;
1084
1085   if (!data)
1086     return;
1087   nntp_free_acache (data);
1088   if (!data->nserv || !data->nserv->newsgroups || !data->group)
1089     return;
1090   nntp_save_cache_index (data->nserv);
1091   if ((tmp = hash_find (data->nserv->newsgroups, data->group)) == NULL
1092       || tmp != data)
1093     nntp_delete_data (data);
1094 }
1095
1096 /* commit changes and terminate connection */
1097 int nntp_close_mailbox (CONTEXT * ctx)
1098 {
1099   if (!ctx)
1100     return -1;
1101   mutt_message _("Quitting newsgroup...");
1102
1103   if (ctx->data) {
1104     NNTP_DATA *data = (NNTP_DATA *) ctx->data;
1105     int ret;
1106
1107     if (data->nserv && data->nserv->conn && ctx->unread) {
1108       ret = query_quadoption (OPT_CATCHUP, _("Mark all articles read?"));
1109       if (ret == M_YES)
1110         mutt_newsgroup_catchup (data->nserv, data->group);
1111       else if (ret < 0)
1112         return -1;
1113     }
1114   }
1115   nntp_sync_mailbox (ctx, 0, NULL);
1116   if (ctx->data && ((NNTP_DATA *) ctx->data)->nserv) {
1117     NNTP_SERVER *news;
1118
1119     news = ((NNTP_DATA *) ctx->data)->nserv;
1120     newsrc_gen_entries (ctx);
1121     ((NNTP_DATA *) ctx->data)->unread = ctx->unread;
1122     mutt_newsrc_update (news);
1123   }
1124   mutt_clear_error ();
1125   return 0;
1126 }
1127
1128 /* use the GROUP command to poll for new mail */
1129 static int _nntp_check_mailbox (CONTEXT * ctx, NNTP_DATA * nntp_data)
1130 {
1131   char buf[LONG_STRING];
1132   int count = 0;
1133
1134   if (nntp_data->nserv->check_time + NewsPollTimeout > time (NULL))
1135     return 0;
1136
1137   buf[0] = 0;
1138   if (mutt_nntp_query (nntp_data, buf, sizeof (buf)) < 0) {
1139 #ifdef DEBUG
1140     nntp_error ("nntp_check_mailbox()", buf);
1141 #endif
1142     return -1;
1143   }
1144   if (str_ncmp ("211", buf, 3)) {
1145     buf[0] = 0;
1146     if (mutt_nntp_query (nntp_data, buf, sizeof (buf)) < 0) {
1147 #ifdef DEBUG
1148       nntp_error ("nntp_check_mailbox()", buf);
1149 #endif
1150       return -1;
1151     }
1152   }
1153   if (!str_ncmp ("211", buf, 3)) {
1154     int first;
1155     int last;
1156
1157     sscanf (buf + 4, "%d %d %d", &count, &first, &last);
1158     nntp_data->firstMessage = first;
1159     nntp_data->lastMessage = last;
1160     if (ctx && last > nntp_data->lastLoaded) {
1161       nntp_fetch_headers (ctx, nntp_data->lastLoaded + 1, last);
1162       time (&nntp_data->nserv->check_time);
1163       return 1;
1164     }
1165     if (!last || (!nntp_data->rc && !nntp_data->lastCached))
1166       nntp_data->unread = count;
1167     else
1168       mutt_newsgroup_stat (nntp_data);
1169     /* active was renumbered? */
1170     if (last < nntp_data->lastLoaded) {
1171       if (!nntp_data->max) {
1172         nntp_data->entries = mem_calloc (5, sizeof (NEWSRC_ENTRY));
1173         nntp_data->max = 5;
1174       }
1175       nntp_data->lastCached = 0;
1176       nntp_data->num = 1;
1177       nntp_data->entries[0].first = 1;
1178       nntp_data->entries[0].last = 0;
1179     }
1180   }
1181
1182   time (&nntp_data->nserv->check_time);
1183   return 0;
1184 }
1185
1186 int nntp_check_mailbox (CONTEXT * ctx, int* unused1, int unused2)
1187 {
1188   return _nntp_check_mailbox (ctx, (NNTP_DATA *) ctx->data);
1189 }
1190
1191 static int add_group (char *buf, void *serv)
1192 {
1193 #define s ((NNTP_SERVER *) serv)
1194   char group[LONG_STRING], mod, desc[HUGE_STRING];
1195   int first, last;
1196   NNTP_DATA *nntp_data;
1197   static int n = 0;
1198
1199   _checked = n;                 /* _checked have N, where N = number of groups */
1200   if (!buf)                     /* at EOF must be zerouth */
1201     n = 0;
1202
1203   if (!s || !buf)
1204     return 0;
1205
1206   *desc = 0;
1207   sscanf (buf, "%s %d %d %c %[^\n]", group, &last, &first, &mod, desc);
1208   if (!group)
1209     return 0;
1210   if ((nntp_data = (NNTP_DATA *) hash_find (s->newsgroups, group)) == NULL) {
1211     n++;
1212     nntp_data = mem_calloc (1, sizeof (NNTP_DATA) + str_len (group) + 1);
1213     nntp_data->group = (char *) nntp_data + sizeof (NNTP_DATA);
1214     strcpy (nntp_data->group, group);
1215     nntp_data->nserv = s;
1216     if (s->newsgroups->nelem < s->newsgroups->curnelem * 2)
1217       s->newsgroups = hash_resize (s->newsgroups, s->newsgroups->nelem * 2);
1218     hash_insert (s->newsgroups, nntp_data->group, nntp_data, 0);
1219     nntp_add_to_list (s, nntp_data);
1220   }
1221   nntp_data->deleted = 0;
1222   nntp_data->firstMessage = first;
1223   nntp_data->lastMessage = last;
1224   if (mod == 'y')
1225     nntp_data->allowed = 1;
1226   else
1227     nntp_data->allowed = 0;
1228   if (nntp_data->desc)
1229     mem_free (&nntp_data->desc);
1230   if (*desc)
1231     nntp_data->desc = str_dup (desc);
1232   if (nntp_data->rc || nntp_data->lastCached)
1233     mutt_newsgroup_stat (nntp_data);
1234   else if (nntp_data->lastMessage &&
1235            nntp_data->firstMessage <= nntp_data->lastMessage)
1236     nntp_data->unread = nntp_data->lastMessage - nntp_data->firstMessage + 1;
1237   else
1238     nntp_data->unread = 0;
1239
1240   return 0;
1241 #undef s
1242 }
1243
1244 int nntp_check_newgroups (NNTP_SERVER * serv, int force)
1245 {
1246   char buf[LONG_STRING];
1247   NNTP_DATA nntp_data;
1248   LIST *l;
1249   LIST emp;
1250   time_t now;
1251   struct tm *t;
1252
1253   if (!serv || !serv->newgroups_time)
1254     return -1;
1255
1256   if (nntp_open_connection (serv) < 0)
1257     return -1;
1258
1259   /* check subscribed groups for new news */
1260   if (option (OPTSHOWNEWNEWS)) {
1261     mutt_message _("Checking for new messages...");
1262
1263     for (l = serv->list; l; l = l->next) {
1264       serv->check_time = 0;     /* really check! */
1265       if (l->data && ((NNTP_DATA *) l->data)->subscribed)
1266         _nntp_check_mailbox (NULL, (NNTP_DATA *) l->data);
1267     }
1268   }
1269   else if (!force)
1270     return 0;
1271
1272   mutt_message _("Checking for new newsgroups...");
1273
1274   now = serv->newgroups_time;
1275   time (&serv->newgroups_time);
1276   t = gmtime (&now);
1277   snprintf (buf, sizeof (buf), "NEWGROUPS %02d%02d%02d %02d%02d%02d GMT\r\n",
1278             (t->tm_year % 100), t->tm_mon + 1, t->tm_mday, t->tm_hour,
1279             t->tm_min, t->tm_sec);
1280   nntp_data.nserv = serv;
1281   if (Context && Context->magic == M_NNTP)
1282     nntp_data.group = ((NNTP_DATA *) Context->data)->group;
1283   else
1284     nntp_data.group = NULL;
1285   l = serv->tail;
1286   if (mutt_nntp_fetch (&nntp_data, buf, _("Adding new newsgroups..."),
1287                        add_group, serv, 0) != 0) {
1288 #ifdef DEBUG
1289     nntp_error ("nntp_check_newgroups()", buf);
1290 #endif
1291     return -1;
1292   }
1293
1294   mutt_message _("Loading descriptions...");
1295
1296   if (l)
1297     emp.next = l->next;
1298   else
1299     emp.next = serv->list;
1300   l = &emp;
1301   while (l->next) {
1302     l = l->next;
1303     ((NNTP_DATA *) l->data)->new = 1;
1304     nntp_get_desc ((NNTP_DATA *) l->data, ((NNTP_DATA *) l->data)->group,
1305                    NULL);
1306   }
1307   if (emp.next)
1308     nntp_save_cache_index (serv);
1309   mutt_clear_error ();
1310   return _checked;
1311 }
1312
1313 /* Load list of all newsgroups from cache ALL */
1314 int nntp_get_cache_all (NNTP_SERVER * serv)
1315 {
1316   char buf[HUGE_STRING];
1317   FILE *f;
1318
1319   nntp_cache_expand (buf, serv->cache);
1320   if ((f = safe_fopen (buf, "r"))) {
1321     int i = 0;
1322
1323     while (fgets (buf, sizeof (buf), f) != NULL) {
1324       if (ReadInc && (i % ReadInc == 0))
1325         mutt_message (_("Loading list from cache... %d"), i);
1326       add_group (buf, serv);
1327       i++;
1328     }
1329     add_group (NULL, NULL);
1330     fclose (f);
1331     mutt_clear_error ();
1332     return 0;
1333   }
1334   else {
1335     mem_free (&serv->cache);
1336     return -1;
1337   }
1338 }
1339
1340 /* Load list of all newsgroups from active */
1341 int nntp_get_active (NNTP_SERVER * serv)
1342 {
1343   char msg[SHORT_STRING];
1344   NNTP_DATA nntp_data;
1345   LIST *tmp;
1346
1347   if (nntp_open_connection (serv) < 0)
1348     return -1;
1349
1350   snprintf (msg, sizeof (msg),
1351             _("Loading list of all newsgroups on server %s..."),
1352             serv->conn->account.host);
1353   mutt_message (msg);
1354   time (&serv->newgroups_time);
1355   nntp_data.nserv = serv;
1356   nntp_data.group = NULL;
1357
1358   if (mutt_nntp_fetch (&nntp_data, "LIST\r\n", msg, add_group, serv, 0) < 0) {
1359 #ifdef DEBUG
1360     nntp_error ("nntp_get_active()", "LIST\r\n");
1361 #endif
1362     return -1;
1363   }
1364
1365   strfcpy (msg, _("Loading descriptions..."), sizeof (msg));
1366   mutt_message (msg);
1367   nntp_get_desc (&nntp_data, "*", msg);
1368
1369   for (tmp = serv->list; tmp; tmp = tmp->next) {
1370     NNTP_DATA *data = (NNTP_DATA *) tmp->data;
1371
1372     if (data && data->deleted && !data->rc) {
1373       nntp_delete_cache (data);
1374       hash_delete (serv->newsgroups, data->group, NULL, nntp_delete_data);
1375       tmp->data = NULL;
1376     }
1377   }
1378   nntp_save_cache_index (serv);
1379
1380   mutt_clear_error ();
1381   return _checked;
1382 }
1383
1384 /*
1385  * returns -1 if error ocurred while retrieving header,
1386  * number of articles which ones exist in context on success.
1387  */
1388 int nntp_check_msgid (CONTEXT * ctx, const char *msgid)
1389 {
1390   int ret;
1391
1392   /* if msgid is already in context, don't reload them */
1393   if (hash_find (ctx->id_hash, msgid))
1394     return 1;
1395   if (ctx->msgcount == ctx->hdrmax)
1396     mx_alloc_memory (ctx);
1397   ctx->hdrs[ctx->msgcount] = mutt_new_header ();
1398   ctx->hdrs[ctx->msgcount]->index = ctx->msgcount;
1399
1400   mutt_message (_("Fetching %s from server..."), msgid);
1401   ret = nntp_read_header (ctx, msgid, 0);
1402   /* since nntp_read_header() may set read flag, we must reset it */
1403   ctx->hdrs[ctx->msgcount]->read = 0;
1404   if (ret != 0)
1405     mutt_free_header (&ctx->hdrs[ctx->msgcount]);
1406   else {
1407     ctx->msgcount++;
1408     mx_update_context (ctx, 1);
1409     ctx->changed = 1;
1410   }
1411   return ret;
1412 }
1413
1414 typedef struct {
1415   CONTEXT *ctx;
1416   unsigned int num;
1417   unsigned int max;
1418   unsigned int *child;
1419 } CHILD_CONTEXT;
1420
1421 static int check_children (char *s, void *c)
1422 {
1423 #define cc ((CHILD_CONTEXT *) c)
1424   unsigned int i, n;
1425
1426   if (!s || (n = atoi (s)) == 0)
1427     return 0;
1428   for (i = 0; i < cc->ctx->msgcount; i++)
1429     if (cc->ctx->hdrs[i]->article_num == n)
1430       return 0;
1431   if (cc->num >= cc->max)
1432     mem_realloc (&cc->child, sizeof (unsigned int) * (cc->max += 25));
1433   cc->child[cc->num++] = n;
1434
1435   return 0;
1436 #undef cc
1437 }
1438
1439 int nntp_check_children (CONTEXT * ctx, const char *msgid)
1440 {
1441   NNTP_DATA *nntp_data = (NNTP_DATA *) ctx->data;
1442   char buf[STRING];
1443   int i, ret = 0, tmp = 0;
1444   CHILD_CONTEXT cc;
1445
1446   if (!nntp_data || !nntp_data->nserv || !nntp_data->nserv->conn ||
1447       !nntp_data->nserv->conn->account.host)
1448     return -1;
1449   if (nntp_data->firstMessage > nntp_data->lastLoaded)
1450     return 0;
1451   if (!nntp_data->nserv->hasXPAT) {
1452     mutt_error (_("Server %s does not support this operation!"),
1453                 nntp_data->nserv->conn->account.host);
1454     return -1;
1455   }
1456
1457   snprintf (buf, sizeof (buf), "XPAT References %d-%d *%s*\r\n",
1458             nntp_data->firstMessage, nntp_data->lastLoaded, msgid);
1459
1460   cc.ctx = ctx;
1461   cc.num = 0;
1462   cc.max = 25;
1463   cc.child = mem_malloc (sizeof (unsigned int) * 25);
1464   if (mutt_nntp_fetch (nntp_data, buf, NULL, check_children, &cc, 0)) {
1465     mem_free (&cc.child);
1466     return -1;
1467   }
1468   /* dont try to read the xover cache. check_children() already
1469    * made sure that we dont have the article, so we need to visit
1470    * the server. Reading the cache at this point is also bad
1471    * because it would duplicate messages */
1472   if (option (OPTNEWSCACHE)) {
1473     tmp++;
1474     unset_option (OPTNEWSCACHE);
1475   }
1476   for (i = 0; i < cc.num; i++) {
1477     if ((ret = nntp_fetch_headers (ctx, cc.child[i], cc.child[i])))
1478       break;
1479     if (ctx->msgcount &&
1480         ctx->hdrs[ctx->msgcount - 1]->article_num == cc.child[i])
1481       ctx->hdrs[ctx->msgcount - 1]->read = 0;
1482   }
1483   if (tmp)
1484     set_option (OPTNEWSCACHE);
1485   mem_free (&cc.child);
1486   return ret;
1487 }