brand new flag, to spot a whole lot of new errors.
[apps/madmutt.git] / nntp / newsrc.c
1 /*
2  * Copyright notice from original mutt:
3  * Copyright (C) 1998 Brandon Long <blong@fiction.net>
4  * Copyright (C) 1999 Andrej Gritsenko <andrej@lucky.net>
5  * Copyright (C) 2000-2001 Vsevolod Volkov <vvv@mutt.org.ua>
6  *
7  * This file is part of mutt-ng, see http://www.muttng.org/.
8  * It's licensed under the GNU General Public License,
9  * please see the file GPL in the top level source directory.
10  */
11
12 #ifdef HAVE_CONFIG_H
13 #include <config.h>
14 #endif
15
16 #include <lib-lib/mem.h>
17 #include <lib-lib/str.h>
18 #include <lib-lib/file.h>
19 #include <lib-lib/macros.h>
20
21 #include <lib-mime/mime.h>
22
23 #include "mutt.h"
24 #include "mutt_curses.h"
25 #include "sort.h"
26 #include "mx.h"
27 #include "nntp.h"
28 #include "rfc822.h"
29 #include "rfc1524.h"
30 #include "rfc2047.h"
31
32 #include "lib/debug.h"
33
34 #include <unistd.h>
35 #include <string.h>
36 #include <ctype.h>
37 #include <stdlib.h>
38 #include <libgen.h>
39 #include <sys/stat.h>
40
41 void nntp_add_to_list (NNTP_SERVER * s, NNTP_DATA * d)
42 {
43   LIST *l;
44
45   if (!s || !d)
46     return;
47
48   l = p_new(LIST, 1);
49   if (s->list)
50     s->tail->next = l;
51   else
52     s->list = l;
53   s->tail = l;
54   l->data = (void *) d;
55 }
56
57 static int nntp_parse_newsrc_line (NNTP_SERVER * news, char *line)
58 {
59   NNTP_DATA *data;
60   char group[LONG_STRING];
61   int x = 1;
62   char *p = line, *b, *h;
63   size_t len;
64
65   while (*p) {
66     if (*p++ == ',')
67       x++;
68   }
69
70   p = line;
71   while (*p && (*p != ':' && *p != '!'))
72     p++;
73   if (!*p)
74     return -1;
75   len = p + 1 - line;
76   if (len > sizeof (group))
77     len = sizeof (group);
78   m_strcpy(group, len, line);
79   if ((data = (NNTP_DATA *) hash_find (news->newsgroups, group)) == NULL) {
80     data = xmalloc(sizeof(NNTP_DATA) + m_strlen(group) + 1);
81     data->group = (char *) data + sizeof (NNTP_DATA);
82     strcpy (data->group, group);
83     data->nserv = news;
84     data->deleted = 1;
85     if (news->newsgroups->nelem < news->newsgroups->curnelem * 2)
86       news->newsgroups =
87         hash_resize (news->newsgroups, news->newsgroups->nelem * 2);
88     hash_insert (news->newsgroups, data->group, data, 0);
89     nntp_add_to_list (news, data);
90   }
91   else
92     p_delete(&data->entries);
93
94   data->rc = 1;
95   data->entries = p_new(NEWSRC_ENTRY, x * 2);
96   data->max = x * 2;
97
98   if (*p == ':')
99     data->subscribed = 1;
100   else
101     data->subscribed = 0;
102
103   p++;
104   b = p;
105   x = 0;
106   while (*b) {
107     while (*p && *p != ',' && *p != '\n')
108       p++;
109     if (*p) {
110       *p = '\0';
111       p++;
112     }
113     if ((h = strchr (b, '-'))) {
114       *h = '\0';
115       h++;
116       data->entries[x].first = atoi (b);
117       data->entries[x].last = atoi (h);
118     }
119     else {
120       data->entries[x].first = atoi (b);
121       data->entries[x].last = data->entries[x].first;
122     }
123     b = p;
124     if (data->entries[x].last != 0)
125       x++;
126   }
127   if (x && !data->lastMessage)
128     data->lastMessage = data->entries[x - 1].last;
129   data->num = x;
130   mutt_newsgroup_stat (data);
131   debug_print (2, ("Newsgroup %s\n", data->group));
132
133   return 0;
134 }
135
136 static int slurp_newsrc (NNTP_SERVER * news)
137 {
138   FILE *fp;
139   char *buf;
140   struct stat sb;
141
142   news->stat = stat (news->newsrc, &sb);
143   news->size = sb.st_size;
144   news->mtime = sb.st_mtime;
145
146   if ((fp = safe_fopen (news->newsrc, "r")) == NULL)
147     return -1;
148   /* hmm, should we use dotlock? */
149   if (mx_lock_file (news->newsrc, fileno (fp), 0, 0, 1)) {
150     fclose (fp);
151     return -1;
152   }
153
154   buf = p_new(char, sb.st_size + 1);
155   while (fgets (buf, sb.st_size + 1, fp))
156     nntp_parse_newsrc_line (news, buf);
157   p_delete(&buf);
158
159   mx_unlock_file (news->newsrc, fileno (fp), 0);
160   fclose (fp);
161   return 0;
162 }
163
164 void nntp_cache_expand (char *dst, const char *src)
165 {
166   snprintf (dst, _POSIX_PATH_MAX, "%s/%s", NewsCacheDir, src);
167   mutt_expand_path (dst, _POSIX_PATH_MAX);
168 }
169
170 /* Loads $news_cache_dir/.index into memory, loads newsserver data
171  * and newsgroup cache names */
172 static int nntp_parse_cacheindex (NNTP_SERVER * news)
173 {
174   struct stat st;
175   char buf[HUGE_STRING], *cp;
176   char dir[_POSIX_PATH_MAX], file[_POSIX_PATH_MAX];
177   FILE *index;
178   NNTP_DATA *data;
179   int l, m, t;
180
181   /* check is server name defined or not */
182   if (!news || !news->conn || !news->conn->account.host)
183     return -1;
184   unset_option (OPTNEWSCACHE);
185   if (!NewsCacheDir || !*NewsCacheDir)
186     return 0;
187
188   m_strcpy(dir, sizeof(dir), NewsCacheDir);
189   mutt_expand_path (dir, sizeof (dir));
190
191   if (lstat (dir, &st) || (st.st_mode & S_IFDIR) == 0) {
192     snprintf (buf, sizeof (buf), _("Directory %s not exist. Create it?"),
193               dir);
194     if (mutt_yesorno (buf, M_YES) != M_YES
195         || mkdir (dir, (S_IRWXU + S_IRWXG + S_IRWXO))) {
196       mutt_error _("Cache directory not created!");
197
198       return -1;
199     }
200     mutt_clear_error ();
201   }
202
203   set_option (OPTNEWSCACHE);
204
205   p_delete(&news->cache);
206   snprintf (buf, sizeof (buf), "%s/.index", dir);
207   if (!(index = safe_fopen (buf, "a+")))
208     return 0;
209   rewind (index);
210   while (fgets (buf, sizeof (buf), index)) {
211     buf[m_strlen(buf) - 1] = 0;  /* strip ending '\n' */
212     if (!m_strncmp(buf, "#: ", 3) &&
213         !m_strcasecmp(buf + 3, news->conn->account.host))
214       break;
215   }
216   while (fgets (buf, sizeof (buf), index)) {
217     cp = buf;
218     while (*cp && *cp != ' ')
219       cp++;
220     if (!*cp)
221       continue;
222     cp[0] = 0;
223     if (!m_strcmp(buf, "#:"))
224       break;
225     sscanf (cp + 1, "%s %d %d", file, &l, &m);
226     if (!m_strcmp(buf, "ALL")) {
227       news->cache = m_strdup(file);
228       news->newgroups_time = m;
229     }
230     else if (news->newsgroups) {
231       if ((data = (NNTP_DATA *) hash_find (news->newsgroups, buf)) == NULL) {
232         data = xmalloc(sizeof(NNTP_DATA) + m_strlen(buf) + 1);
233         data->group = (char *) data + sizeof (NNTP_DATA);
234         strcpy (data->group, buf);
235         data->nserv = news;
236         data->deleted = 1;
237         if (news->newsgroups->nelem < news->newsgroups->curnelem * 2)
238           news->newsgroups =
239             hash_resize (news->newsgroups, news->newsgroups->nelem * 2);
240         hash_insert (news->newsgroups, data->group, data, 0);
241         nntp_add_to_list (news, data);
242       }
243       data->cache = m_strdup(file);
244       t = 0;
245       if (!data->firstMessage || data->lastMessage < m)
246         t = 1;
247       if (!data->firstMessage)
248         data->firstMessage = l;
249       if (data->lastMessage < m)
250         data->lastMessage = m;
251       data->lastCached = m;
252       if (t || !data->unread)
253         mutt_newsgroup_stat (data);
254     }
255   }
256   fclose (index);
257   return 0;
258 }
259
260 const char *nntp_format_str (char *dest, size_t destlen, char op,
261                              const char *src, const char *fmt,
262                              const char *ifstring, const char *elsestring,
263                              unsigned long data, format_flag flags)
264 {
265   char fn[SHORT_STRING], tmp[SHORT_STRING];
266
267   switch (op) {
268   case 's':
269     m_strcpy(fn, sizeof (fn), NewsServer);
270     str_tolower (fn);
271     snprintf (tmp, sizeof (tmp), "%%%ss", fmt);
272     snprintf (dest, destlen, tmp, fn);
273     break;
274   }
275   return (src);
276 }
277
278 /* nntp_parse_url: given an NNPT URL, return host, port,
279  * username, password and newsgroup will recognise. */
280 int nntp_parse_url (const char *server, ACCOUNT * acct,
281                     char *group, size_t group_len)
282 {
283   ciss_url_t url;
284   char *c;
285   int ret = -1;
286
287   /* Defaults */
288   acct->flags = 0;
289   acct->port = NNTP_PORT;
290   acct->type = M_ACCT_TYPE_NNTP;
291
292   c = m_strdup(server);
293   url_parse_ciss (&url, c);
294
295   if (url.scheme == U_NNTP || url.scheme == U_NNTPS) {
296     if (url.scheme == U_NNTPS) {
297       acct->flags |= M_ACCT_SSL;
298       acct->port = NNTP_SSL_PORT;
299     }
300
301     *group = '\0';
302     if (url.path)
303       m_strcpy(group, group_len, url.path);
304
305     ret = mutt_account_fromurl (acct, &url);
306   }
307
308   p_delete(&c);
309   return ret;
310 }
311
312 void nntp_expand_path (char *line, size_t len, ACCOUNT * acct)
313 {
314   ciss_url_t url;
315
316   url.path = m_strdup(line);
317   mutt_account_tourl (acct, &url);
318   url_ciss_tostring (&url, line, len, 0);
319   p_delete(&url.path);
320 }
321
322 /*
323  * Automatically loads a newsrc into memory, if necessary.
324  * Checks the size/mtime of a newsrc file, if it doesn't match, load
325  * again.  Hmm, if a system has broken mtimes, this might mean the file
326  * is reloaded every time, which we'd have to fix.
327  *
328  * a newsrc file is a line per newsgroup, with the newsgroup, then a 
329  * ':' denoting subscribed or '!' denoting unsubscribed, then a 
330  * comma separated list of article numbers and ranges.
331  */
332 NNTP_SERVER *mutt_select_newsserver (char *server)
333 {
334   char file[_POSIX_PATH_MAX];
335   char *buf, *p;
336   LIST *list;
337   ACCOUNT acct;
338   NNTP_SERVER *serv;
339   CONNECTION *conn;
340
341   p_clear(&acct, 1);
342
343   if (!server || !*server) {
344     mutt_error _("No newsserver defined!");
345
346     return NULL;
347   }
348
349   buf = p = p_new(char, m_strlen(server) + 10);
350   if (url_check_scheme (server) == U_UNKNOWN) {
351     strcpy (buf, "nntp://");
352     p = strchr (buf, '\0');
353   }
354   strcpy (p, server);
355
356   if ((nntp_parse_url (buf, &acct, file, sizeof (file))) < 0 || *file) {
357     p_delete(&buf);
358     mutt_error (_("%s is an invalid newsserver specification!"), server);
359     return NULL;
360   }
361   p_delete(&buf);
362
363   conn = mutt_conn_find (NULL, &acct);
364   if (!conn)
365     return NULL;
366
367   mutt_FormatString (file, sizeof (file), NONULL (NewsRc), nntp_format_str, 0,
368                      0);
369   mutt_expand_path (file, sizeof (file));
370
371   serv = (NNTP_SERVER *) conn->data;
372   if (serv) {
373     struct stat sb;
374
375     /* externally modified? */
376     if (serv->stat != stat (file, &sb) || (!serv->stat &&
377                                            (serv->size != sb.st_size
378                                             || serv->mtime != sb.st_mtime))) {
379       for (list = serv->list; list; list = list->next) {
380         NNTP_DATA *data = (NNTP_DATA *) list->data;
381
382         if (data) {
383           data->subscribed = 0;
384           data->rc = 0;
385           data->num = 0;
386         }
387       }
388       slurp_newsrc (serv);
389       nntp_clear_cacheindex (serv);
390     }
391
392     if (serv->status == NNTP_BYE)
393       serv->status = NNTP_NONE;
394     nntp_check_newgroups (serv, 0);
395     return serv;
396   }
397
398   /* New newsserver */
399   serv = p_new(NNTP_SERVER, 1);
400   serv->conn = conn;
401   serv->newsrc = m_strdup(file);
402   serv->newsgroups = hash_create (1009);
403   slurp_newsrc (serv);          /* load .newsrc */
404   nntp_parse_cacheindex (serv); /* load .index */
405   if (option (OPTNEWSCACHE) && serv->cache && nntp_get_cache_all (serv) >= 0)
406     nntp_check_newgroups (serv, 1);
407   else if (nntp_get_active (serv) < 0) {
408     hash_destroy (&serv->newsgroups, nntp_delete_data);
409     for (list = serv->list; list; list = list->next)
410       list->data = NULL;
411     mutt_free_list (&serv->list);
412     p_delete(&serv->newsrc);
413     p_delete(&serv->cache);
414     p_delete(&serv);
415     return NULL;
416   }
417   nntp_clear_cacheindex (serv);
418   conn->data = (void *) serv;
419
420   return serv;
421 }
422
423 /* 
424  * full status flags are not supported by nntp, but we can fake some
425  * of them.  This is how:
426  * Read = a read message number is in the .newsrc
427  * New = a message is new since we last read this newsgroup
428  * Old = anything else
429  * So, Read is marked as such in the newsrc, old is anything that is 
430  * "skipped" in the newsrc, and new is anything not in the newsrc nor
431  * in the cache. By skipped, I mean before the last unread message
432  */
433 void nntp_get_status (CONTEXT * ctx, HEADER * h, char *group, int article)
434 {
435   NNTP_DATA *data = (NNTP_DATA *) ctx->data;
436   int x;
437
438   if (group)
439     data = (NNTP_DATA *) hash_find (data->nserv->newsgroups, group);
440
441   if (!data) {
442 #ifdef DEBUG
443     if (group)
444       debug_print (3, ("newsgroup %s not found\n", group));
445 #endif
446     return;
447   }
448
449   for (x = 0; x < data->num; x++) {
450     if ((article >= data->entries[x].first) &&
451         (article <= data->entries[x].last)) {
452       /* we cannot use mutt_set_flag() because mx_update_context()
453          didn't called yet */
454       h->read = 1;
455       return;
456     }
457   }
458   /* If article was not cached yet, it is new! :) */
459   if (!data->cache || article > data->lastCached)
460     return;
461   /* Old articles are articles which aren't read but an article after them
462    * has been cached */
463   if (option (OPTMARKOLD))
464     h->old = 1;
465 }
466
467 void mutt_newsgroup_stat (NNTP_DATA * data)
468 {
469   int i;
470   unsigned int first, last;
471
472   data->unread = 0;
473   if (data->lastMessage == 0 || data->firstMessage > data->lastMessage)
474     return;
475
476   data->unread = data->lastMessage - data->firstMessage + 1;
477   for (i = 0; i < data->num; i++) {
478     first = data->entries[i].first;
479     if (first < data->firstMessage)
480       first = data->firstMessage;
481     last = data->entries[i].last;
482     if (last > data->lastMessage)
483       last = data->lastMessage;
484     if (first <= last)
485       data->unread -= last - first + 1;
486   }
487 }
488
489 static int puti (char *line, int num)
490 {
491   char *p, s[32];
492
493   for (p = s; num;) {
494     *p++ = '0' + num % 10;
495     num /= 10;
496   }
497   while (p > s)
498     *line++ = *--p, num++;
499   *line = '\0';
500   return num;
501 }
502
503 static void nntp_create_newsrc_line (NNTP_DATA * data, char **buf,
504                                      char **pline, size_t * buflen)
505 {
506   char *line = *pline;
507   size_t len = *buflen - (*pline - *buf);
508   int x, i;
509
510   if (len < LONG_STRING * 10) {
511     len += *buflen;
512     *buflen *= 2;
513     line = *buf;
514     p_realloc(buf, *buflen);
515     line = *buf + (*pline - line);
516   }
517   strcpy (line, data->group);
518   len -= m_strlen(line) + 1;
519   line += m_strlen(line);
520   *line++ = data->subscribed ? ':' : '!';
521   *line++ = ' ';
522   *line = '\0';
523
524   for (x = 0; x < data->num; x++) {
525     if (len < LONG_STRING) {
526       len += *buflen;
527       *buflen *= 2;
528       *pline = line;
529       line = *buf;
530       p_realloc(buf, *buflen);
531       line = *buf + (*pline - line);
532     }
533     if (x) {
534       *line++ = ',';
535       len--;
536     }
537
538 #if 0
539     if (data->entries[x].first == data->entries[x].last)
540       snprintf (line, len, "%d%n", data->entries[x].first, &i);
541     else
542       snprintf (line, len, "%d-%d%n",
543                 data->entries[x].first, data->entries[x].last, &i);
544     len -= i;
545     line += i;
546 #else
547     i = puti (line, data->entries[x].first);
548     line += i;
549     len -= i;
550     if (data->entries[x].first != data->entries[x].last) {
551       *line++ = '-';
552       len--;
553       i = puti (line, data->entries[x].last);
554       line += i;
555       len -= i;
556     }
557 #endif
558   }
559   *line++ = '\n';
560   *line = '\0';
561   *pline = line;
562 }
563
564 void newsrc_gen_entries (CONTEXT * ctx)
565 {
566   NNTP_DATA *data = (NNTP_DATA *) ctx->data;
567   int series, x;
568   unsigned int last = 0, first = 1;
569   int save_sort = SORT_ORDER;
570
571   if (Sort != SORT_ORDER) {
572     save_sort = Sort;
573     Sort = SORT_ORDER;
574     mutt_sort_headers (ctx, 0);
575   }
576
577   if (!data->max) {
578     data->entries = p_new(NEWSRC_ENTRY, 5);
579     data->max = 5;
580   }
581
582   /*
583    * Set up to fake initial sequence from 1 to the article before the 
584    * first article in our list
585    */
586   data->num = 0;
587   series = 1;
588
589   for (x = 0; x < ctx->msgcount; x++) {
590     if (series) {               /* search for first unread */
591       /*
592        * We don't actually check sequential order, since we mark 
593        * "missing" entries as read/deleted
594        */
595       last = ctx->hdrs[x]->article_num;
596       if (last >= data->firstMessage && !ctx->hdrs[x]->deleted &&
597           !ctx->hdrs[x]->read) {
598         if (data->num >= data->max) {
599           data->max = data->max * 2;
600           p_realloc(&data->entries, data->max);
601         }
602         data->entries[data->num].first = first;
603         data->entries[data->num].last = last - 1;
604         data->num++;
605         series = 0;
606       }
607     }
608     else {                      /* search for first read */
609
610       if (ctx->hdrs[x]->deleted || ctx->hdrs[x]->read) {
611         first = last + 1;
612         series = 1;
613       }
614       last = ctx->hdrs[x]->article_num;
615     }
616   }
617   if (series && first <= data->lastLoaded) {
618     if (data->num >= data->max) {
619       data->max = data->max * 2;
620       p_realloc(&data->entries, data->max);
621     }
622     data->entries[data->num].first = first;
623     data->entries[data->num].last = data->lastLoaded;
624     data->num++;
625   }
626
627   if (save_sort != Sort) {
628     Sort = save_sort;
629     mutt_sort_headers (ctx, 0);
630   }
631 }
632
633 static int mutt_update_list_file (char *filename, char *section,
634                                   const char *key, char *line) {
635   FILE *ifp;
636   FILE *ofp;
637   char buf[HUGE_STRING];
638   char tmpfile[_POSIX_PATH_MAX], link[_POSIX_PATH_MAX];
639   char *c;
640   int ext = 0, done = 0, r = 0, l = 0;
641
642   /* if file not exist, create it */
643   if ((ifp = safe_fopen (filename, "a")))
644     fclose (ifp);
645   debug_print (1, ("Opening %s\n", filename));
646   if (!(ifp = safe_fopen (filename, "r"))) {
647     mutt_error (_("Unable to open %s for reading"), filename);
648     return -1;
649   }
650   if (mx_lock_file (filename, fileno (ifp), 0, 0, 1)) {
651     fclose (ifp);
652     mutt_error (_("Unable to lock %s"), filename);
653     return -1;
654   }
655   /* use mutt_adv_mktemp() to get a tempfile in the same
656    * directory as filename is so that we can follow symlinks
657    * via rename(2); as dirname(2) may modify its argument,
658    * temporarily use buf as copy of it
659    */
660   m_strcpy(buf, sizeof(buf), filename);
661   m_strcpy(tmpfile, sizeof(tmpfile), basename(filename));
662   mutt_adv_mktemp ((const char*) dirname (buf), tmpfile, sizeof (tmpfile));
663   debug_print (1, ("Opening %s\n", tmpfile));
664   if (!(ofp = fopen (tmpfile, "w"))) {
665     fclose (ifp);
666     mutt_error (_("Unable to open %s for writing"), tmpfile);
667     return -1;
668   }
669
670   if (section) {
671     while (r != EOF && !done && fgets (buf, sizeof (buf), ifp)) {
672       r = fputs (buf, ofp);
673       c = buf;
674       while (*c && *c != '\n') c++;
675       c[0] = 0; /* strip EOL */
676       if (!strncmp (buf, "#: ", 3) && !m_strcasecmp(buf+3, section))
677         done++;
678     }
679     if (r != EOF && !done) {
680       snprintf (buf, sizeof(buf), "#: %s\n", section);
681       r = fputs (buf, ofp);
682     }
683     done = 0;
684   }
685
686   while (r != EOF && fgets (buf, sizeof (buf), ifp)) {
687     if (ext) {
688       c = buf;
689       while (*c && (*c != '\r') && (*c != '\n')) c++;
690       c--;
691       if (*c != '\\') ext = 0;
692     } else if ((section && !strncmp (buf, "#: ", 3))) {
693       if (!done && line) {
694         fputs (line, ofp);
695         fputc ('\n', ofp);
696       }
697       r = fputs (buf, ofp);
698       done++;
699       break;
700     } else if (key && !strncmp (buf, key, strlen(key)) &&
701                (!*key || buf[strlen(key)] == ' ')) {
702       c = buf;
703       ext = 0;
704       while (*c && (*c != '\r') && (*c != '\n')) c++;
705       c--;
706       if (*c == '\\') ext = 1;
707       if (!done && line) {
708         r = fputs (line, ofp);
709         if (*key)
710           r = fputc ('\n', ofp);
711         done++;
712       }
713     } else {
714       r = fputs (buf, ofp);
715     }
716   }
717
718   while (r != EOF && fgets (buf, sizeof (buf), ifp))
719     r = fputs (buf, ofp);
720
721   /* If there wasn't a line to replace, put it on the end of the file */
722   if (r != EOF && !done && line) {
723     fputs (line, ofp);
724     r = fputc ('\n', ofp);
725   }
726   mx_unlock_file (filename, fileno (ifp), 0);
727   fclose (ofp);
728   fclose (ifp);
729   if (r == EOF) {
730     unlink (tmpfile);
731     mutt_error (_("Can't write %s"), tmpfile);
732     return -1;
733   }
734   link[0] = '\0';
735   if ((l = readlink (filename, link, sizeof (link)-1)) > 0)
736     link[l] = '\0';
737   debug_print (1, ("Renaming %s to %s\n",tmpfile, l > 0 ? link : filename));
738   if (rename (tmpfile, l > 0 ? link : filename) < 0) {
739     unlink (tmpfile);
740     mutt_error (_("Can't rename %s to %s"), tmpfile, l > 0 ? link : filename);
741     return -1;
742   }
743   return 0;
744 }
745
746 int mutt_newsrc_update (NNTP_SERVER * news)
747 {
748   char *buf, *line;
749   NNTP_DATA *data;
750   LIST *tmp;
751   int r = -1;
752   size_t len, llen;
753
754   if (!news)
755     return -1;
756   llen = len = 10 * LONG_STRING;
757   line = buf = p_new(char, len);
758   /* we will generate full newsrc here */
759   for (tmp = news->list; tmp; tmp = tmp->next) {
760     data = (NNTP_DATA *) tmp->data;
761     if (!data || !data->rc)
762       continue;
763     nntp_create_newsrc_line (data, &buf, &line, &llen);
764     debug_print (2, ("Added to newsrc: %s\n", line));
765     line += m_strlen(line);
766   }
767   /* newrc being fully rewritten */
768   if (news->newsrc &&
769       (r = mutt_update_list_file(news->newsrc, NULL, "", buf)) == 0) {
770     struct stat st;
771
772     stat (news->newsrc, &st);
773     news->size = st.st_size;
774     news->mtime = st.st_mtime;
775   }
776   p_delete(&buf);
777   return r;
778 }
779
780 static FILE *mutt_mkname (char *s)
781 {
782   char buf[_POSIX_PATH_MAX], *pc;
783   int fd;
784   FILE *fp;
785
786   nntp_cache_expand (buf, s);
787   if ((fp = safe_fopen (buf, "w")))
788     return fp;
789
790   nntp_cache_expand (buf, "cache-XXXXXX");
791   pc = buf + m_strlen(buf) - 12; /* positioning to "cache-XXXXXX" */
792   if ((fd = mkstemp (buf)) == -1)
793     return NULL;
794   strcpy (s, pc);               /* generated name */
795   return fdopen (fd, "w");
796 }
797
798 /* Updates info into .index file: ALL or about selected newsgroup */
799 static int nntp_update_cacheindex (NNTP_SERVER * serv, NNTP_DATA * data)
800 {
801   char buf[LONG_STRING];
802   char file[_POSIX_PATH_MAX];
803   const char *key = "ALL";
804
805   if (!serv || !serv->conn || !serv->conn->account.host)
806     return -1;
807
808   if (data && data->group) {
809     key = data->group;
810     snprintf (buf, sizeof (buf), "%s %s %d %d", key, data->cache,
811               data->firstMessage, data->lastLoaded);
812   }
813   else {
814     m_strcpy(file, sizeof(file), serv->cache);
815     snprintf (buf, sizeof (buf), "ALL %s 0 %d", file,
816               (int) serv->newgroups_time);
817   }
818   nntp_cache_expand (file, ".index");
819   return mutt_update_list_file (file, serv->conn->account.host, key, buf);
820 }
821
822 /* Remove cache files of unsubscribed newsgroups */
823 void nntp_clear_cacheindex (NNTP_SERVER * news)
824 {
825   NNTP_DATA *data;
826   LIST *tmp;
827
828   if (option (OPTSAVEUNSUB) || !news)
829     return;
830
831   for (tmp = news->list; tmp; tmp = tmp->next) {
832     data = (NNTP_DATA *) tmp->data;
833     if (!data || data->subscribed || !data->cache)
834       continue;
835     nntp_delete_cache (data);
836     debug_print (2, ("Removed from .index: %s\n", data->group));
837   }
838   return;
839 }
840
841 int nntp_save_cache_index (NNTP_SERVER * news)
842 {
843   char buf[HUGE_STRING];
844   char file[_POSIX_PATH_MAX];
845   NNTP_DATA *d;
846   FILE *f;
847   LIST *l;
848
849   if (!news || !news->newsgroups)
850     return -1;
851   if (!option (OPTNEWSCACHE))
852     return 0;
853
854   if (news->cache) {
855     nntp_cache_expand (file, news->cache);
856     unlink (file);
857     f = safe_fopen (file, "w");
858   }
859   else {
860     m_strcpy(buf, sizeof(buf), news->conn->account.host);
861     f = mutt_mkname (buf);
862     news->cache = m_strdup(buf);
863     nntp_cache_expand (file, buf);
864   }
865   if (!f)
866     return -1;
867
868   for (l = news->list; l; l = l->next) {
869     if ((d = (NNTP_DATA *) l->data) && !d->deleted) {
870       if (d->desc)
871         snprintf (buf, sizeof (buf), "%s %d %d %c %s\n", d->group,
872                   d->lastMessage, d->firstMessage, d->allowed ? 'y' : 'n',
873                   d->desc);
874       else
875         snprintf (buf, sizeof (buf), "%s %d %d %c\n", d->group,
876                   d->lastMessage, d->firstMessage, d->allowed ? 'y' : 'n');
877       if (fputs (buf, f) == EOF) {
878         fclose (f);
879         unlink (file);
880         return -1;
881       }
882     }
883   }
884   fclose (f);
885
886   if (nntp_update_cacheindex (news, NULL)) {
887     unlink (file);
888     return -1;
889   }
890   return 0;
891 }
892
893 int nntp_save_cache_group (CONTEXT * ctx)
894 {
895   char buf[HUGE_STRING], addr[STRING];
896   char file[_POSIX_PATH_MAX];
897   FILE *f;
898   HEADER *h;
899   struct tm *tm;
900   int i = 0, save = SORT_ORDER;
901   int prev = 0;
902
903   if (!option (OPTNEWSCACHE))
904     return 0;
905   if (!ctx || !ctx->data || ctx->magic != M_NNTP)
906     return -1;
907
908   if (((NNTP_DATA *) ctx->data)->cache) {
909     nntp_cache_expand (file, ((NNTP_DATA *) ctx->data)->cache);
910     unlink (file);
911     f = safe_fopen (file, "w");
912   }
913   else {
914     snprintf (buf, sizeof (buf), "%s-%s",
915               ((NNTP_DATA *) ctx->data)->nserv->conn->account.host,
916               ((NNTP_DATA *) ctx->data)->group);
917     f = mutt_mkname (buf);
918     ((NNTP_DATA *) ctx->data)->cache = m_strdup(buf);
919     nntp_cache_expand (file, buf);
920   }
921   if (!f)
922     return -1;
923
924   if (Sort != SORT_ORDER) {
925     save = Sort;
926     Sort = SORT_ORDER;
927     mutt_sort_headers (ctx, 0);
928   }
929
930   /* Save only $nntp_context messages... */
931   ((NNTP_DATA *) ctx->data)->lastCached = 0;
932   if (NntpContext && ctx->msgcount > NntpContext)
933     i = ctx->msgcount - NntpContext;
934   for (; i < ctx->msgcount; i++) {
935     if (!ctx->hdrs[i]->deleted && ctx->hdrs[i]->article_num != prev) {
936       h = ctx->hdrs[i];
937       addr[0] = 0;
938       rfc822_write_address (addr, sizeof (addr), h->env->from, 0);
939       tm = gmtime (&h->date_sent);
940       snprintf (buf, sizeof (buf),
941                 "%d\t%s\t%s\t%d %s %d %02d:%02d:%02d GMT\t%s\t",
942                 h->article_num, h->env->subject, addr, tm->tm_mday,
943                 Months[tm->tm_mon], tm->tm_year + 1900, tm->tm_hour,
944                 tm->tm_min, tm->tm_sec, h->env->message_id);
945       fputs (buf, f);
946       if (h->env->references)
947         mutt_write_references (h->env->references, f);
948       snprintf (buf, sizeof (buf), "\t%zd\t%d\tXref: %s\n",
949                 h->content->length, h->lines, NONULL (h->env->xref));
950       if (fputs (buf, f) == EOF) {
951         fclose (f);
952         unlink (file);
953         return -1;
954       }
955     }
956     prev = ctx->hdrs[i]->article_num;
957   }
958
959   if (save != Sort) {
960     Sort = save;
961     mutt_sort_headers (ctx, 0);
962   }
963   fclose (f);
964
965   if (nntp_update_cacheindex (((NNTP_DATA *) ctx->data)->nserv,
966                               (NNTP_DATA *) ctx->data)) {
967     unlink (file);
968     return -1;
969   }
970   ((NNTP_DATA *) ctx->data)->lastCached =
971     ((NNTP_DATA *) ctx->data)->lastLoaded;
972   return 0;
973 }
974
975 void nntp_delete_cache (NNTP_DATA * data)
976 {
977   char buf[_POSIX_PATH_MAX];
978
979   if (!option (OPTNEWSCACHE) || !data || !data->cache || !data->nserv)
980     return;
981
982   nntp_cache_expand (buf, data->cache);
983   unlink (buf);
984   p_delete(&data->cache);
985   data->lastCached = 0;
986   nntp_cache_expand (buf, ".index");
987   mutt_update_list_file (buf, data->nserv->conn->account.host, data->group,
988                          NULL);
989 }
990
991 NNTP_DATA *mutt_newsgroup_subscribe (NNTP_SERVER * news, char *group)
992 {
993   NNTP_DATA *data;
994
995   if (!news || !news->newsgroups || !group || !*group)
996     return NULL;
997   if (!(data = (NNTP_DATA *) hash_find (news->newsgroups, group))) {
998     data = xmalloc(sizeof(NNTP_DATA) + m_strlen(group) + 1);
999     data->group = (char *) data + sizeof (NNTP_DATA);
1000     strcpy (data->group, group);
1001     data->nserv = news;
1002     data->deleted = 1;
1003     if (news->newsgroups->nelem < news->newsgroups->curnelem * 2)
1004       news->newsgroups =
1005         hash_resize (news->newsgroups, news->newsgroups->nelem * 2);
1006     hash_insert (news->newsgroups, data->group, data, 0);
1007     nntp_add_to_list (news, data);
1008   }
1009   if (!data->subscribed) {
1010     data->subscribed = 1;
1011     data->rc = 1;
1012   }
1013   return data;
1014 }
1015
1016 NNTP_DATA *mutt_newsgroup_unsubscribe (NNTP_SERVER * news, char *group)
1017 {
1018   NNTP_DATA *data;
1019
1020   if (!news || !news->newsgroups || !group || !*group ||
1021       !(data = (NNTP_DATA *) hash_find (news->newsgroups, group)))
1022     return NULL;
1023   if (data->subscribed) {
1024     data->subscribed = 0;
1025     if (!option (OPTSAVEUNSUB))
1026       data->rc = 0;
1027   }
1028   return data;
1029 }
1030
1031 NNTP_DATA *mutt_newsgroup_catchup (NNTP_SERVER * news, char *group)
1032 {
1033   NNTP_DATA *data;
1034
1035   if (!news || !news->newsgroups || !group || !*group ||
1036       !(data = (NNTP_DATA *) hash_find (news->newsgroups, group)))
1037     return NULL;
1038   if (!data->max) {
1039     data->entries = p_new(NEWSRC_ENTRY, 5);
1040     data->max = 5;
1041   }
1042   data->num = 1;
1043   data->entries[0].first = 1;
1044   data->unread = 0;
1045   data->entries[0].last = data->lastMessage;
1046   if (Context && Context->data == data) {
1047     int x;
1048
1049     for (x = 0; x < Context->msgcount; x++)
1050       mutt_set_flag (Context, Context->hdrs[x], M_READ, 1);
1051   }
1052   return data;
1053 }
1054
1055 NNTP_DATA *mutt_newsgroup_uncatchup (NNTP_SERVER * news, char *group)
1056 {
1057   NNTP_DATA *data;
1058
1059   if (!news || !news->newsgroups || !group || !*group ||
1060       !(data = (NNTP_DATA *) hash_find (news->newsgroups, group)))
1061     return NULL;
1062   if (!data->max) {
1063     data->entries = p_new(NEWSRC_ENTRY, 5);
1064     data->max = 5;
1065   }
1066   data->num = 1;
1067   data->entries[0].first = 1;
1068   data->entries[0].last = data->firstMessage - 1;
1069   if (Context && Context->data == data) {
1070     int x;
1071
1072     data->unread = Context->msgcount;
1073     for (x = 0; x < Context->msgcount; x++)
1074       mutt_set_flag (Context, Context->hdrs[x], M_READ, 0);
1075   }
1076   else
1077     data->unread = data->lastMessage - data->entries[0].last;
1078   return data;
1079 }
1080
1081 /* this routine gives the first newsgroup with new messages */
1082 void nntp_buffy (char* dst, size_t dstlen) {
1083   LIST *list;
1084   int count = 0;
1085
1086   /* forward to current group */
1087   for (list = CurrentNewsSrv->list; list; list = list->next) {
1088     NNTP_DATA *data = (NNTP_DATA *) list->data;
1089     if (data && data->subscribed && data->unread && 
1090         Context && Context->magic == M_NNTP &&
1091         m_strcmp(data->group, ((NNTP_DATA *) Context->data)->group) == 0) {
1092       list = list->next;
1093       break;
1094     }
1095   }
1096
1097   *dst = '\0';
1098
1099   while (count < 2) {
1100
1101     if (!list)
1102       list = CurrentNewsSrv->list;
1103
1104     for (; list; list = list->next) {
1105       NNTP_DATA *data = (NNTP_DATA *) list->data;
1106
1107       if (data && data->subscribed && data->unread) {
1108         if (Context && Context->magic == M_NNTP &&
1109             !m_strcmp(data->group, ((NNTP_DATA *) Context->data)->group)) {
1110           unsigned int i, unread = 0;
1111
1112           for (i = 0; i < Context->msgcount; i++)
1113             if (!Context->hdrs[i]->read && !Context->hdrs[i]->deleted)
1114               unread++;
1115           if (!unread)
1116             continue;
1117         }
1118         m_strcpy(dst, dstlen, data->group);
1119         break;
1120       }
1121     }
1122     /* done if found */
1123     if (dst && *dst)
1124       return;
1125     count++;
1126   }
1127   *dst = '\0';
1128 }