More delinting.
[elpher.git] / elpher.el
1 ;;; elpher.el --- A friendly gopher and gemini client  -*- lexical-binding: t -*-
2
3 ;; Copyright (C) 2021 Jens Östlund <jostlund@gmail.com>
4 ;; Copyright (C) 2021 F. Jason Park <jp@neverwas.me>
5 ;; Copyright (C) 2021 Christopher Brannon <chris@the-brannons.com>
6 ;; Copyright (C) 2021 Omar Polo <op@omarpolo.com>
7 ;; Copyright (C) 2021 Noodles! <nnoodle@chiru.no>
8 ;; Copyright (C) 2020-2021 Alex Schroeder <alex@gnu.org>
9 ;; Copyright (C) 2020 Zhiwei Chen <chenzhiwei03@kuaishou.com>
10 ;; Copyright (C) 2020 condy0919 <condy0919@gmail.com>
11 ;; Copyright (C) 2020 Alexis <flexibeast@gmail.com>
12 ;; Copyright (C) 2020 Étienne Deparis <etienne@depar.is>
13 ;; Copyright (C) 2020 Simon Nicolussi <sinic@sinic.name>
14 ;; Copyright (C) 2020 Michel Alexandre Salim <michel@michel-slm.name>
15 ;; Copyright (C) 2020 Koushk Roy <kroy@twilio.com>
16 ;; Copyright (C) 2020 Vee <vee@vnsf.xyz>
17 ;; Copyright (C) 2020 Simon South <simon@simonsouth.net>
18 ;; Copyright (C) 2019-2021 Tim Vaughan <plugd@thelambdalab.xyz>
19
20 ;; Author: Tim Vaughan <plugd@thelambdalab.xyz>
21 ;; Created: 11 April 2019
22 ;; Version: 2.11.0
23 ;; Keywords: comm gopher
24 ;; Homepage: https://thelambdalab.xyz/elpher
25 ;; Package-Requires: ((emacs "27.1"))
26
27 ;; This file is not part of GNU Emacs.
28
29 ;; This program is free software: you can redistribute it and/or modify
30 ;; it under the terms of the GNU General Public License as published by
31 ;; the Free Software Foundation, either version 3 of the License, or
32 ;; (at your option) any later version.
33
34 ;; This program is distributed in the hope that it will be useful,
35 ;; but WITHOUT ANY WARRANTY; without even the implied warranty of
36 ;; MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
37 ;; GNU General Public License for more details.
38
39 ;; You should have received a copy of the GNU General Public License
40 ;; along with this file.  If not, see <http://www.gnu.org/licenses/>.
41
42 ;;; Commentary:
43
44 ;; Elpher aims to provide a practical and friendly gopher and gemini
45 ;; client for GNU Emacs.  It supports:
46
47 ;; - intuitive keyboard and mouse-driven browsing,
48 ;; - out-of-the-box compatibility with evil-mode,
49 ;; - clickable web and gopher links *in plain text*,
50 ;; - caching of visited sites,
51 ;; - pleasant and configurable colouring of Gopher directories,
52 ;; - direct visualisation of image files,
53 ;; - gopher connections using TLS encryption,
54 ;; - the fledgling Gemini protocol,
55 ;; - the greybeard Finger protocol.
56
57 ;; To launch Elpher, simply use 'M-x elpher'.  This will open a start
58 ;; page containing information on key bindings and suggested starting
59 ;; points for your gopher exploration.
60
61 ;; Full instructions can be found in the Elpher info manual.
62
63 ;; Elpher is under active development.  Any suggestions for
64 ;; improvements are welcome, and can be made on the official
65 ;; project page, gopher://thelambdalab.xyz/elpher, or via the
66 ;; project mailing list at https://lists.sr.ht/~michel-slm/elpher.
67
68 ;;; Code:
69
70 (provide 'elpher)
71
72 ;;; Dependencies
73 ;;
74
75 (require 'seq)
76 (require 'pp)
77 (require 'shr)
78 (require 'url-util)
79 (require 'subr-x)
80 (require 'dns)
81 (require 'nsm)
82 (require 'gnutls)
83 (require 'socks)
84
85 ;;; ANSI colors or XTerm colors
86
87 (or (require 'xterm-color nil t)
88     (require 'ansi-color))
89
90 (defalias 'elpher-color-filter-apply
91   (if (fboundp 'xterm-color-filter)
92       (lambda (s)
93         (let ((_xterm-color-render nil))
94           (xterm-color-filter s)))
95     'ansi-color-filter-apply)
96   "A function to filter out ANSI escape sequences.")
97
98 (defalias 'elpher-color-apply
99   (if (fboundp 'xterm-color-filter)
100       'xterm-color-filter
101     'ansi-color-apply)
102   "A function to apply ANSI escape sequences.")
103
104 ;;; Global constants
105 ;;
106
107 (defconst elpher-version "2.11.0"
108   "Current version of elpher.")
109
110 (defconst elpher-margin-width 6
111   "Width of left-hand margin used when rendering indicies.")
112
113 (defconst elpher-type-map
114   '(((gopher ?0) elpher-get-gopher-page elpher-render-text "txt" elpher-text)
115     ((gopher ?1) elpher-get-gopher-page elpher-render-index "/" elpher-index)
116     ((gopher ?4) elpher-get-gopher-page elpher-render-download "bin" elpher-binary)
117     ((gopher ?5) elpher-get-gopher-page elpher-render-download "bin" elpher-binary)
118     ((gopher ?7) elpher-get-gopher-query-page elpher-render-index "?" elpher-search)
119     ((gopher ?9) elpher-get-gopher-page elpher-render-download "bin" elpher-binary)
120     ((gopher ?g) elpher-get-gopher-page elpher-render-image "img" elpher-image)
121     ((gopher ?p) elpher-get-gopher-page elpher-render-image "img" elpher-image)
122     ((gopher ?I) elpher-get-gopher-page elpher-render-image "img" elpher-image)
123     ((gopher ?d) elpher-get-gopher-page elpher-render-download "doc" elpher-binary)
124     ((gopher ?P) elpher-get-gopher-page elpher-render-download "doc" elpher-binary)
125     ((gopher ?s) elpher-get-gopher-page elpher-render-download "snd" elpher-binary)
126     ((gopher ?h) elpher-get-gopher-page elpher-render-html "htm" elpher-html)
127     (gemini elpher-get-gemini-page elpher-render-gemini "gem" elpher-gemini)
128     (finger elpher-get-finger-page elpher-render-text "txt" elpher-text)
129     (telnet elpher-get-telnet-page nil "tel" elpher-telnet)
130     (other-url elpher-get-other-url-page nil "url" elpher-other-url)
131     ((special start) elpher-get-start-page nil)
132     ((special history) elpher-get-history-page nil)
133     ((special history-all) elpher-get-history-all-page nil))
134   "Association list from types to getters, renderers, margin codes and index faces.")
135
136
137 ;;; Internal variables
138 ;;
139
140 ;; buffer-local
141 (defvar elpher--gemini-page-headings nil
142   "List of headings on the page.")
143
144 ;;; Declarations to avoid compiler warnings.
145 ;;
146
147 (eval-when-compile
148   (defvar bookmark-make-record-function)
149   (declare-function bookmark-store "bookmark")
150   (declare-function org-link-store-props "ol")
151   (declare-function org-link-set-parameters "ol")
152   (defvar thing-at-point-uri-schemes)
153   (defvar mu4e~view-beginning-of-url-regexp))
154
155
156 ;;; Customization group
157 ;;
158
159 (defgroup elpher nil
160   "A gopher and gemini client."
161   :group 'applications)
162
163 ;; General appearance and customizations
164
165 (defcustom elpher-open-urls-with-eww nil
166   "If non-nil, open URL selectors using eww.
167 Otherwise, use the system browser via the `browse-url' function."
168   :type '(boolean))
169
170 (defcustom elpher-use-header t
171   "If non-nil, display current page information in buffer header."
172   :type '(boolean))
173
174 (defcustom elpher-auto-disengage-TLS nil
175   "If non-nil, automatically disengage TLS following an unsuccessful connection.
176 While enabling this may seem convenient, it is also potentially
177 dangerous as it allows switching from an encrypted channel back to
178 plain text without user input."
179   :type '(boolean))
180
181 (defcustom elpher-connection-timeout 5
182   "Specifies the number of seconds to wait for a network connection to time out."
183   :type '(integer))
184
185 (defcustom elpher-filter-ansi-from-text nil
186   "If non-nil, filter ANSI escape sequences from text.
187 The default behaviour is to use the ansi-color package to interpret these
188 sequences."
189   :type '(boolean))
190
191 (defcustom elpher-certificate-directory
192   (file-name-as-directory (locate-user-emacs-file "elpher-certificates"))
193   "Specify the name of the directory where client certificates will be stored.
194 These certificates may be used for establishing authenticated TLS connections."
195   :type '(directory))
196
197 (defcustom elpher-openssl-command "openssl"
198   "The command used to launch openssl when generating TLS client certificates."
199   :type '(file))
200
201 (defcustom elpher-default-url-type "gopher"
202   "Default URL type (i.e. scheme) to assume if not explicitly given."
203   :type '(choice (const "gopher")
204                  (const "gemini")))
205
206 (defcustom elpher-gemini-TLS-cert-checks nil
207   "If non-nil, verify gemini server TLS certs using the default security level.
208 Otherwise, certificate verification is disabled.
209
210 This defaults to off because it is standard practice for Gemini servers
211 to use self-signed certificates, meaning that most servers provide what
212 EMACS considers to be an invalid certificate."
213   :type '(boolean))
214
215 (defcustom elpher-gemini-max-fill-width 80
216   "Specify the maximum default width (in columns) of text/gemini documents.
217 The actual width used is the minimum of this value and the window width at
218 the time when the text is rendered."
219   :type '(integer))
220
221 (defcustom elpher-gemini-link-string "→ "
222   "Specify the string used to indicate links when rendering gemini maps.
223 May be empty."
224   :type '(string))
225
226 (defcustom elpher-gemini-bullet-string "•"
227   "Specify the string used for bullets when rendering gemini maps."
228   :type '(string))
229
230 (defcustom elpher-ipv4-always nil
231   "If non-nil, elpher will always use IPv4 to establish network connections.
232 This can be useful when browsing from a computer that supports IPv6, because
233 some servers which do not support IPv6 can take a long time to time-out."
234   :type '(boolean))
235
236 (defcustom elpher-socks-always nil
237   "If non-nil, elpher will establish network connections over a SOCKS proxy.
238 Otherwise, the SOCKS proxy is only used for connections to onion services."
239   :type '(boolean))
240
241 (defcustom elpher-number-links nil
242   "If non-nil, number links in pages when rendering.
243 Links can be followed numerically by pressing `M' and entering by the link number."
244   :type '(boolean))
245
246 ;; Face customizations
247
248 (defgroup elpher-faces nil
249   "Elpher face customizations."
250   :group 'elpher)
251
252 (defface elpher-index
253   '((t :inherit font-lock-keyword-face))
254   "Face used for directory type directory records.")
255
256 (defface elpher-text
257   '((t :inherit bold))
258   "Face used for text type directory records.")
259
260 (defface elpher-info
261   '((t :inherit default))
262   "Face used for info type directory records.")
263
264 (defface elpher-image
265   '((t :inherit font-lock-string-face))
266   "Face used for image type directory records.")
267
268 (defface elpher-search
269   '((t :inherit warning))
270   "Face used for search type directory records.")
271
272 (defface elpher-html
273   '((t :inherit font-lock-comment-face))
274   "Face used for html type directory records.")
275
276 (defface elpher-gemini
277   '((t :inherit font-lock-constant-face))
278   "Face used for Gemini type directory records.")
279
280 (defface elpher-other-url
281   '((t :inherit font-lock-comment-face))
282   "Face used for other URL type links records.")
283
284 (defface elpher-telnet
285   '((t :inherit font-lock-function-name-face))
286   "Face used for telnet type directory records.")
287
288 (defface elpher-binary
289   '((t :inherit font-lock-doc-face))
290   "Face used for binary type directory records.")
291
292 (defface elpher-unknown
293   '((t :inherit error))
294   "Face used for directory records with unknown/unsupported types.")
295
296 (defface elpher-margin-key
297   '((t :inherit bold))
298   "Face used for directory margin key.")
299
300 (defface elpher-margin-brackets
301   '((t :inherit shadow))
302   "Face used for brackets around directory margin key.")
303
304 (defface elpher-gemini-heading1
305   '((t :inherit bold :height 1.8))
306   "Face used for gemini heading level 1.")
307
308 (defface elpher-gemini-heading2
309   '((t :inherit bold :height 1.5))
310   "Face used for gemini heading level 2.")
311
312 (defface elpher-gemini-heading3
313   '((t :inherit bold :height 1.2))
314   "Face used for gemini heading level 3.")
315
316 (defface elpher-gemini-preformatted
317   '((t :inherit fixed-pitch))
318   "Face used for pre-formatted gemini text blocks.")
319
320 (defface elpher-gemini-quoted
321   '((t :inherit font-lock-doc-face))
322   "Face used for gemini quoted texts.")
323
324 ;;; Model
325 ;;
326
327 ;; Address
328
329 ;; An elpher "address" object is either a url object or a symbol.
330 ;; Symbol addresses are "special", corresponding to pages generated
331 ;; dynamically for and by elpher.  All others represent pages which
332 ;; rely on content retrieved over the network.
333
334 (defun elpher-address-from-url (url-string)
335   "Create a ADDRESS object corresponding to the given URL-STRING."
336   (let ((data (match-data))) ; Prevent parsing clobbering match data
337     (unwind-protect
338         (let ((url (url-generic-parse-url url-string)))
339           (unless (and (not (url-fullness url)) (url-type url))
340             (setf (url-fullness url) t)
341             (unless (url-type url)
342               (setf (url-type url) elpher-default-url-type))
343             (unless (url-host url)
344               (let ((p (split-string (url-filename url) "/" nil nil)))
345                 (setf (url-host url) (car p))
346                 (setf (url-filename url)
347                       (if (cdr p)
348                           (concat "/" (mapconcat #'identity (cdr p) "/"))
349                         ""))))
350             (when (or (equal "gopher" (url-type url))
351                       (equal "gophers" (url-type url)))
352               ;; Gopher defaults
353               (when (or (equal (url-filename url) "")
354                         (equal (url-filename url) "/"))
355                 (setf (url-filename url) "/1")))
356             (when (equal "gemini" (url-type url))
357               ;; Gemini defaults
358               (if (equal (url-filename url) "")
359                   (setf (url-filename url) "/"))))
360           (elpher-remove-redundant-ports url))
361       (set-match-data data))))
362
363 (defun elpher-remove-redundant-ports (address)
364   "Remove redundant port specifiers from ADDRESS.
365 Here 'redundant' means that the specified port matches the default
366 for that protocol, eg 70 for gopher."
367   (if (and (not (elpher-address-special-p address))
368            (eq (url-portspec address) ; (url-port) is too slow!
369                (pcase (url-type address)
370                  ("gemini" 1965)
371                  ((or "gopher" "gophers") 70)
372                  ("finger" 79)
373                  (_ -1))))
374       (setf (url-portspec address) nil))
375   address)
376
377 (defun elpher-make-gopher-address (type selector host port &optional tls)
378   "Create an ADDRESS object using gopher directory record attributes.
379 The basic attributes include: TYPE, SELECTOR, HOST and PORT.
380 If the optional attribute TLS is non-nil, the address will be marked as
381 requiring gopher-over-TLS."
382   (cond
383    ((equal type ?i) nil)
384    ((and (equal type ?h)
385          (string-prefix-p "URL:" selector))
386     (elpher-address-from-url (elt (split-string selector "URL:") 1)))
387    ((equal type ?8)
388     (elpher-address-from-url
389      (concat "telnet"
390              "://" host
391              ":" (number-to-string port))))
392    (t
393     (elpher-address-from-url
394      (concat "gopher" (if tls "s" "")
395              "://" host
396              ":" (number-to-string port)
397              "/" (string type)
398              selector)))))
399
400 (defun elpher-make-special-address (type)
401   "Create an ADDRESS object corresponding to the given special address symbol TYPE."
402   type)
403
404 (defun elpher-make-start-page ()
405   "Create the start page."
406   (elpher-make-page "Elpher Start Page"
407                     (elpher-make-special-address 'start)))
408
409 (defun elpher-address-to-url (address)
410   "Get string representation of ADDRESS, or nil if ADDRESS is special."
411   (if (elpher-address-special-p address)
412       nil
413     (url-encode-url (url-recreate-url address))))
414
415 (defun elpher-address-type (address)
416   "Retrieve type of ADDRESS object.
417 This is used to determine how to retrieve and render the document the
418 address refers to, via the table `elpher-type-map'."
419   (if (symbolp address)
420       (list 'special address)
421     (let ((protocol (url-type address)))
422       (cond ((or (equal protocol "gopher")
423                  (equal protocol "gophers"))
424              (list 'gopher
425                    (if (member (url-filename address) '("" "/"))
426                        ?1
427                      (string-to-char (substring (url-filename address) 1)))))
428             ((equal protocol "gemini")
429              'gemini)
430             ((equal protocol "telnet")
431              'telnet)
432             ((equal protocol "finger")
433              'finger)
434             (t 'other-url)))))
435
436 (defun elpher-address-protocol (address)
437   "Retrieve the transport protocol for ADDRESS.  This is nil for special addresses."
438   (if (symbolp address)
439       nil
440     (url-type address)))
441
442 (defun elpher-address-filename (address)
443   "Retrieve the filename component of ADDRESS.
444 For gopher addresses this is a combination of the selector type and selector."
445   (if (symbolp address)
446       nil
447     (url-unhex-string (url-filename address))))
448
449 (defun elpher-address-host (address)
450   "Retrieve host from ADDRESS object."
451   (url-host address))
452
453 (defun elpher-address-user (address)
454   "Retrieve user from ADDRESS object."
455   (url-user address))
456
457 (defun elpher-address-port (address)
458   "Retrieve port from ADDRESS object.
459 If no address is defined, returns 0.  (This is for compatibility with the URL library.)"
460   (if (symbolp address)
461       0
462     (url-port address)))
463
464 (defun elpher-address-special-p (address)
465   "Return non-nil if ADDRESS object is special (e.g. start page page)."
466   (symbolp address))
467
468 (defun elpher-address-gopher-p (address)
469   "Return non-nill if ADDRESS object is a gopher address."
470   (and (not (elpher-address-special-p address))
471        (member (elpher-address-protocol address) '("gopher" "gophers"))))
472
473 (defun elpher-gopher-address-selector (address)
474   "Retrieve gopher selector from ADDRESS object."
475   (if (member (url-filename address) '("" "/"))
476       ""
477     (url-unhex-string (substring (url-filename address) 2))))
478
479
480 ;; Cache
481
482 (defvar elpher-content-cache (make-hash-table :test 'equal))
483 (defvar elpher-pos-cache (make-hash-table :test 'equal))
484
485 (defun elpher-get-cached-content (address)
486   "Retrieve the cached content for ADDRESS, or nil if none exists."
487   (gethash address elpher-content-cache))
488
489 (defun elpher-cache-content (address content)
490   "Set the content cache for ADDRESS to CONTENT."
491   (puthash address content elpher-content-cache))
492
493 (defun elpher-get-cached-pos (address)
494   "Retrieve the cached cursor position for ADDRESS, or nil if none exists."
495   (gethash address elpher-pos-cache))
496
497 (defun elpher-cache-pos (address pos)
498   "Set the cursor position cache for ADDRESS to POS."
499   (puthash address pos elpher-pos-cache))
500
501
502 ;; Page
503
504 (defun elpher-make-page (display-string address)
505   "Create a page with DISPLAY-STRING and ADDRESS."
506   (list display-string address))
507
508 (defun elpher-page-display-string (page)
509   "Retrieve the display string corresponding to PAGE."
510   (elt page 0))
511
512 (defun elpher-page-address (page)
513   "Retrieve the address corresponding to PAGE."
514   (elt page 1))
515
516 (defun elpher-page-set-address (page new-address)
517   "Set the address corresponding to PAGE to NEW-ADDRESS."
518   (setcar (cdr page) new-address))
519
520 (defvar elpher-current-page nil
521   "The current page for this Elpher buffer.")
522
523 (defvar elpher-history nil
524   "The local history for this Elpher buffer.
525 This variable is used by `elpher-back' and
526 `elpher-show-history'.")
527
528 (defvar elpher-history-all nil
529   "The global history for all Elpher buffers.
530 This variable is used by `elpher-show-history-all'.")
531
532 (defun elpher-visit-page (page &optional renderer no-history)
533   "Visit PAGE using its own renderer or RENDERER, if non-nil.
534 Additionally, push PAGE onto the stack of previously-visited pages,
535 unless NO-HISTORY is non-nil."
536   (elpher-save-pos)
537   (elpher-process-cleanup)
538   (elpher-reset-link-number-counter)
539   (unless (or no-history
540               (equal (elpher-page-address elpher-current-page)
541                      (elpher-page-address page)))
542     (push elpher-current-page elpher-history)
543     (push elpher-current-page elpher-history-all))
544   (setq-local elpher-current-page page)
545   (let* ((address (elpher-page-address page))
546          (type (elpher-address-type address))
547          (type-record (cdr (assoc type elpher-type-map))))
548     (if type-record
549         (funcall (car type-record)
550                  (if renderer
551                      renderer
552                    (cadr type-record)))
553       (elpher-visit-previous-page)
554       (pcase type
555         (`(gopher ,type-char)
556          (error "Unsupported gopher selector type '%c' for '%s'"
557                 type-char (elpher-address-to-url address)))
558         (other
559          (error "Unsupported address type '%S' for '%s'"
560                 other (elpher-address-to-url address)))))))
561
562 (defun elpher-visit-previous-page ()
563   "Visit the previous page in the history."
564   (let ((previous-page (pop elpher-history)))
565     (if previous-page
566         (elpher-visit-page previous-page nil t)
567       (error "No previous page"))))
568
569 (defun elpher-reload-current-page ()
570   "Reload the current page, discarding any existing cached content."
571   (elpher-cache-content (elpher-page-address elpher-current-page) nil)
572   (elpher-visit-page elpher-current-page))
573
574 (defun elpher-save-pos ()
575   "Save the current position of point to the current page."
576   (when elpher-current-page
577     (elpher-cache-pos (elpher-page-address elpher-current-page) (point))))
578
579 (defun elpher-restore-pos ()
580   "Restore the position of point to that cached in the current page."
581   (let ((pos (elpher-get-cached-pos (elpher-page-address elpher-current-page))))
582     (if pos
583         (goto-char pos)
584       (goto-char (point-min)))))
585
586
587 ;;; Buffer preparation
588 ;;
589
590 (defvar elpher-buffer-name "*elpher*"
591   "The default name of the Elpher buffer.")
592
593 (defun elpher-update-header ()
594   "If `elpher-use-header' is true, display current page info in window header."
595   (if elpher-use-header
596       (let* ((display-string (elpher-page-display-string elpher-current-page))
597              (address (elpher-page-address elpher-current-page))
598              (tls-string (if (and (not (elpher-address-special-p address))
599                                   (member (elpher-address-protocol address)
600                                           '("gophers" "gemini")))
601                              " [TLS encryption]"
602                            ""))
603              (header (concat display-string
604                              (propertize tls-string 'face 'bold))))
605         (setq header-line-format header))))
606
607 (defmacro elpher-with-clean-buffer (&rest args)
608   "Evaluate ARGS with a clean *elpher* buffer as current."
609   `(with-current-buffer elpher-buffer-name
610      (unless (eq major-mode 'elpher-mode)
611        ;; avoid resetting buffer-local variables
612        (elpher-mode))
613      (let ((inhibit-read-only t))
614        (setq-local network-security-level
615                    (default-value 'network-security-level))
616        (erase-buffer)
617        (elpher-update-header)
618        ,@args)))
619
620 (defun elpher-buffer-message (string &optional line)
621   "Replace first line in elpher buffer with STRING.
622 If LINE is non-nil, replace that line instead."
623   (with-current-buffer elpher-buffer-name
624     (let ((inhibit-read-only t))
625       (goto-char (point-min))
626       (if line
627           (forward-line line))
628       (let ((data (match-data)))
629         (unwind-protect
630             (progn
631               (re-search-forward "^.*$")
632               (replace-match string))
633           (set-match-data data))))))
634
635
636 ;;; Text Processing
637 ;;
638
639 (defvar elpher-user-coding-system nil
640   "User-specified coding system to use for decoding text responses.")
641
642 (defun elpher-decode (string)
643   "Decode STRING using autodetected or user-specified coding system."
644   (decode-coding-string string
645                         (if elpher-user-coding-system
646                             elpher-user-coding-system
647                           (detect-coding-string string t))))
648
649 (defun elpher-preprocess-text-response (string)
650   "Preprocess text selector response contained in STRING.
651 This involes decoding the character representation, and clearing
652 away CRs and any terminating period."
653   (elpher-decode (replace-regexp-in-string "\n\\.\n$" "\n"
654                                            (replace-regexp-in-string "\r" "" string))))
655
656
657 ;;; Network error reporting
658 ;;
659
660 (defun elpher-network-error (address error)
661   "Display ERROR message following unsuccessful negotiation with ADDRESS.
662 ERROR can be either an error object or a string."
663   (elpher-with-clean-buffer
664    (insert (propertize "\n---- ERROR -----\n\n" 'face 'error)
665            "When attempting to retrieve " (elpher-address-to-url address) ":\n"
666            (if (stringp error) error (error-message-string error)) "\n"
667            (propertize "\n----------------\n\n" 'face 'error)
668            "Press 'u' to return to the previous page.")))
669
670
671 ;;; General network communication
672 ;;
673
674 (defvar elpher-network-timer nil
675   "Timer used for network connections.")
676
677 (defvar elpher-use-tls nil
678   "If non-nil, use TLS to communicate with gopher servers.")
679
680 (defvar elpher-client-certificate nil
681   "If non-nil, contains client certificate details to use for TLS connections.")
682
683 (defun elpher-process-cleanup ()
684   "Immediately shut down any extant elpher process and timers."
685   (let ((p (get-process "elpher-process")))
686     (if p (delete-process p)))
687   (if (timerp elpher-network-timer)
688       (cancel-timer elpher-network-timer)))
689
690 (defun elpher-get-host-response (address default-port query-string response-processor
691                                          &optional use-tls force-ipv4)
692   "Generic function for retrieving data from ADDRESS.
693
694 When ADDRESS lacks a specific port, DEFAULT-PORT is used instead.
695 QUERY-STRING is a string sent to the host specified by ADDRESS to
696 illicet a response.  This response is passed as an argument to the
697 function RESPONSE-PROCESSOR.
698
699 If non-nil, USE-TLS specifies that the connection is to be made over
700 TLS.  If set to gemini, the certificate verification will be disabled
701 unless `elpher-gemini-TLS-cert-checks' is non-nil.
702
703 If non-nil, FORCE-IPV4 causes the network connection to be made over
704 ipv4 only.  (The default behaviour when this is not set depends on
705 the host operating system and the local network capabilities.)"
706   (if (and use-tls (not (gnutls-available-p)))
707       (error "Use of TLS requires Emacs to be compiled with GNU TLS support")
708     (unless (< (elpher-address-port address) 65536)
709       (error "Cannot establish network connection: port number > 65536"))
710     (when (and (eq use-tls 'gemini) (not elpher-gemini-TLS-cert-checks))
711       (setq-local network-security-level 'low)
712       (setq-local gnutls-verify-error nil))
713     (condition-case nil
714         (let* ((kill-buffer-query-functions nil)
715                (port (elpher-address-port address))
716                (service (if (> port 0) port default-port))
717                (host (elpher-address-host address))
718                (socks (or elpher-socks-always (string-suffix-p ".onion" host)))
719                (response-string-parts nil)
720                (bytes-received 0)
721                (hkbytes-received 0)
722                (timer (run-at-time elpher-connection-timeout nil
723                                    (lambda ()
724                                      (elpher-process-cleanup)
725                                      (cond
726                                         ; Try again with IPv4
727                                       ((not (or force-ipv4 socks))
728                                        (message "Connection timed out.  Retrying with IPv4.")
729                                        (elpher-get-host-response address default-port
730                                                                  query-string
731                                                                  response-processor
732                                                                  use-tls t))
733                                       ((and use-tls
734                                             (not (eq use-tls 'gemini))
735                                             (or elpher-auto-disengage-TLS
736                                                 (y-or-n-p
737                                                  "TLS connetion failed.  Disable TLS mode and retry? ")))
738                                        (setq elpher-use-tls nil)
739                                        (elpher-get-host-response address default-port
740                                                                  query-string
741                                                                  response-processor
742                                                                  nil force-ipv4))
743                                       (t
744                                        (elpher-network-error address "Connection time-out."))))))
745                (gnutls-params (list :type 'gnutls-x509pki :hostname host
746                                     :keylist (elpher-get-current-keylist address)))
747                (proc (if socks (socks-open-network-stream "elpher-process" nil host service)
748                        (make-network-process :name "elpher-process"
749                                              :host host
750                                              :family (and force-ipv4 'ipv4)
751                                              :service service
752                                              :buffer nil
753                                              :nowait t
754                                              :tls-parameters
755                                              (and use-tls
756                                                   (cons 'gnutls-x509pki
757                                                         (apply #'gnutls-boot-parameters
758                                                                gnutls-params)))))))
759           (setq elpher-network-timer timer)
760           (set-process-coding-system proc 'binary 'binary)
761           (set-process-query-on-exit-flag proc nil)
762           (elpher-buffer-message (concat "Connecting to " host "..."
763                                          " (press 'u' to abort)"))
764           (set-process-filter proc
765                               (lambda (_proc string)
766                                 (when timer
767                                   (cancel-timer timer)
768                                   (setq timer nil))
769                                 (setq bytes-received (+ bytes-received (length string)))
770                                 (let ((new-hkbytes-received (/ bytes-received 102400)))
771                                   (when (> new-hkbytes-received hkbytes-received)
772                                     (setq hkbytes-received new-hkbytes-received)
773                                     (elpher-buffer-message
774                                      (concat "("
775                                              (number-to-string (/ hkbytes-received 10.0))
776                                              " MB read)")
777                                      1)))
778                                 (setq response-string-parts
779                                       (cons string response-string-parts))))
780           (set-process-sentinel proc
781                                 (lambda (proc event)
782                                   (when timer
783                                     (cancel-timer timer))
784                                   (condition-case the-error
785                                       (cond
786                                        ((string-prefix-p "open" event)    ; request URL
787                                         (elpher-buffer-message
788                                          (concat "Connected to " host ". Receiving data..."
789                                                  " (press 'u' to abort)"))
790                                         (let ((inhibit-eol-conversion t))
791                                           (process-send-string proc query-string)))
792                                        ((string-prefix-p "deleted" event)) ; do nothing
793                                        ((and (not response-string-parts)
794                                              (not (or elpher-ipv4-always force-ipv4 socks)))
795                                         ; Try again with IPv4
796                                         (message "Connection failed. Retrying with IPv4.")
797                                         (elpher-get-host-response address default-port
798                                                                   query-string
799                                                                   response-processor
800                                                                   use-tls t))
801                                        (response-string-parts
802                                         (elpher-with-clean-buffer
803                                          (insert "Data received.  Rendering..."))
804                                         (funcall response-processor
805                                                  (apply #'concat (reverse response-string-parts)))
806                                         (elpher-restore-pos))
807                                        (t
808                                         (error "No response from server")))
809                                     (error
810                                      (elpher-network-error address the-error)))))
811           (when socks
812             (if use-tls (apply #'gnutls-negotiate :process proc gnutls-params))
813             (funcall (process-sentinel proc) proc "open\n")))
814       (error
815        (error "Error initiating connection to server")))))
816
817
818 ;;; Client-side TLS Certificate Management
819 ;;
820
821 (defun elpher-generate-certificate (common-name key-file cert-file &optional temporary)
822   "Generate a key and a self-signed client TLS certificate using openssl.
823
824 The Common Name field of the certificate is set to COMMON-NAME.  The
825 arguments KEY-FILE and CERT-FILE should contain the absolute paths of
826 the key and certificate files to write.
827
828 If TEMPORARY is non-nil, the certificate will be given an exporation
829 period of one day, and the key and certificate files will be deleted
830 when the certificate is no longer needed for the current session.
831
832 Otherwise, the certificate will be given a 100 year expiration period
833 and the files will not be deleted.
834
835 The function returns a list containing the current host name, the
836 temporary flag, and the key and cert file names in the form required
837 by `gnutls-boot-parameters`."
838   (let ((exp-key-file (expand-file-name key-file))
839         (exp-cert-file (expand-file-name cert-file)))
840     (condition-case nil
841         (progn
842           (call-process elpher-openssl-command nil nil nil
843                         "req" "-x509" "-newkey" "rsa:2048"
844                         "-days" (if temporary "1" "36500")
845                         "-nodes"
846                         "-subj" (concat "/CN=" common-name)
847                         "-keyout" exp-key-file
848                         "-out" exp-cert-file)
849           (list (elpher-address-host (elpher-page-address elpher-current-page))
850                 temporary exp-key-file exp-cert-file))
851       (error
852        (message "Check that openssl is installed, or customize `elpher-openssl-command`.")
853        (error "Program 'openssl', required for certificate generation, not found")))))
854
855 (defun elpher-generate-throwaway-certificate ()
856   "Generate and return details of a throwaway certificate.
857 The key and certificate files will be deleted when they are no
858 longer needed for this session."
859   (let* ((file-base (make-temp-name "elpher"))
860          (key-file (concat temporary-file-directory file-base ".key"))
861          (cert-file (concat temporary-file-directory file-base ".crt")))
862     (elpher-generate-certificate file-base key-file cert-file t)))
863
864 (defun elpher-generate-persistent-certificate (file-base common-name)
865   "Generate and return details of a persistent certificate.
866 The argument FILE-BASE is used as the base for the key and certificate
867 files, while COMMON-NAME specifies the common name field of the
868 certificate.
869
870 The key and certificate files are written to in `elpher-certificate-directory'."
871   (let* ((key-file (concat elpher-certificate-directory file-base ".key"))
872          (cert-file (concat elpher-certificate-directory file-base ".crt")))
873     (elpher-generate-certificate common-name key-file cert-file)))
874
875 (defun elpher-get-existing-certificate (file-base)
876   "Return a certificate object corresponding to an existing certificate.
877 It is assumed that the key files FILE-BASE.key and FILE-BASE.crt exist in
878 the directory `elpher-certificate-directory'."
879   (let* ((key-file (concat elpher-certificate-directory file-base ".key"))
880          (cert-file (concat elpher-certificate-directory file-base ".crt")))
881     (list (elpher-address-host (elpher-page-address elpher-current-page))
882           nil
883           (expand-file-name key-file)
884           (expand-file-name cert-file))))
885
886 (defun elpher-install-and-use-existing-certificate (key-file-src cert-file-src file-base)
887   "Install a key+certificate file pair in `elpher-certificate-directory'.
888 The strings KEY-FILE-SRC and CERT-FILE-SRC are the existing key and
889 certificate files to install.  The argument FILE-BASE is used as the
890 base for the installed key and certificate files."
891   (let* ((key-file (concat elpher-certificate-directory file-base ".key"))
892          (cert-file (concat elpher-certificate-directory file-base ".crt")))
893     (if (or (file-exists-p key-file)
894             (file-exists-p cert-file))
895         (error "A certificate with base name %s is already installed" file-base))
896     (copy-file key-file-src key-file)
897     (copy-file cert-file-src cert-file)
898     (list (elpher-address-host (elpher-page-address elpher-current-page))
899           nil
900           (expand-file-name key-file)
901           (expand-file-name cert-file))))
902
903 (defun elpher-list-existing-certificates ()
904   "Return a list of the persistent certificates in `elpher-certificate-directory'."
905   (unless (file-directory-p elpher-certificate-directory)
906     (make-directory elpher-certificate-directory))
907   (mapcar
908    (lambda (file)
909      (file-name-sans-extension file))
910    (directory-files elpher-certificate-directory nil "\\.key$")))
911
912 (defun elpher-forget-current-certificate ()
913   "Causes any current certificate to be forgotten.)
914 In the case of throwaway certificates, the key and certificate files
915 are also deleted."
916   (interactive)
917   (when elpher-client-certificate
918     (unless (and (called-interactively-p 'any)
919                  (not (y-or-n-p (concat "Really forget client certificate? "
920                                         "(Throwaway certificates will be deleted.)"))))
921       (when (cadr elpher-client-certificate)
922         (delete-file (elt elpher-client-certificate 2))
923         (delete-file (elt elpher-client-certificate 3)))
924       (setq elpher-client-certificate nil)
925       (if (called-interactively-p 'any)
926           (message "Client certificate forgotten.")))))
927
928 (defun elpher-get-current-keylist (address)
929   "Retrieve the `gnutls-boot-parameters'-compatable keylist.
930
931 This is obtained from the client certificate described by
932 `elpher-current-certificate', if one is available and the host for
933 that certificate matches the host in ADDRESS.
934
935 If `elpher-current-certificate' is non-nil, and its host name doesn't
936 match that of ADDRESS, the certificate is forgotten."
937   (if elpher-client-certificate
938       (if (string= (car elpher-client-certificate)
939                    (elpher-address-host address))
940           (list (cddr elpher-client-certificate))
941         (elpher-forget-current-certificate)
942         (message "Disabling client certificate for new host")
943         nil)
944     nil))
945
946
947 ;;; Gopher selector retrieval
948 ;;
949
950 (defun elpher-get-gopher-response (address renderer)
951   "Get response string from gopher server at ADDRESS and render using RENDERER."
952   (elpher-get-host-response address 70
953                             (concat (elpher-gopher-address-selector address) "\r\n")
954                             renderer
955                             (or (string= (elpher-address-protocol address) "gophers")
956                                 elpher-use-tls)))
957
958 (defun elpher-get-gopher-page (renderer)
959   "Getter function for gopher pages.
960 The RENDERER procedure is used to display the contents of the page
961 once they are retrieved from the gopher server."
962   (let* ((address (elpher-page-address elpher-current-page))
963          (content (elpher-get-cached-content address)))
964     (if (and content (funcall renderer nil))
965         (elpher-with-clean-buffer
966          (insert content)
967          (elpher-restore-pos))
968       (elpher-with-clean-buffer
969        (insert "LOADING... (use 'u' to cancel)\n"))
970       (condition-case the-error
971           (elpher-get-gopher-response address renderer)
972         (error
973          (elpher-network-error address the-error))))))
974
975 ;; Index rendering
976
977 (defun elpher-insert-index (string)
978   "Insert the index corresponding to STRING into the current buffer."
979   ;; Should be able to split directly on CRLF, but some non-conformant
980   ;; LF-only servers sadly exist, hence the following.
981   (let ((str-processed (elpher-preprocess-text-response string)))
982     (dolist (line (split-string str-processed "\n"))
983       (ignore-errors
984         (unless (= (length line) 0)
985           (let* ((type (elt line 0))
986                  (fields (split-string (substring line 1) "\t"))
987                  (display-string (elt fields 0))
988                  (selector (elt fields 1))
989                  (host (elt fields 2))
990                  (port (if (elt fields 3)
991                            (string-to-number (elt fields 3))
992                          nil))
993                  (address (elpher-make-gopher-address type selector host port)))
994             (elpher-insert-index-record display-string address)))))))
995
996 (defun elpher-insert-margin (&optional type-name)
997   "Insert index margin, optionally containing the TYPE-NAME, into the current buffer."
998   (if type-name
999       (progn
1000         (insert (format (concat "%" (number-to-string (- elpher-margin-width 1)) "s")
1001                         (concat
1002                          (propertize "[" 'face 'elpher-margin-brackets)
1003                          (propertize type-name 'face 'elpher-margin-key)
1004                          (propertize "]" 'face 'elpher-margin-brackets))))
1005         (insert " "))
1006     (insert (make-string elpher-margin-width ?\s))))
1007
1008 (defun elpher--page-button-help (_window buffer pos)
1009   "Function called by Emacs to generate mouse-over text.
1010 The arguments specify the BUFFER and the POS within the buffer of the item
1011 for which help is required.  The function returns the help to be
1012 displayed.  The _WINDOW argument is currently unused."
1013   (with-current-buffer buffer
1014     (let ((button (button-at pos)))
1015       (when button
1016         (let* ((page (button-get button 'elpher-page))
1017                (address (elpher-page-address page)))
1018           (format "mouse-1, RET: open '%s'" (if (elpher-address-special-p address)
1019                                                 address
1020                                               (elpher-address-to-url address))))))))
1021
1022 (defvar elpher--link-number-counter 0
1023   "Used to number links on elpher pages.")
1024 (defun elpher-reset-link-number-counter ()
1025   "Reset the link number counter."
1026   (setq-local elpher--link-number-counter 0))
1027
1028 (defun elpher--insert-text-button (label &rest properties)
1029   "Insert a potentially-numbered button into the current buffer.
1030 The text for the button is provided by LABEL, while the button
1031 properties in PROPERTIES are as per `insert-text-button'."
1032
1033   (if elpher-number-links
1034       (setq-local elpher--link-number-counter (+ elpher--link-number-counter 1)))
1035   (let ((pref (if elpher-number-links
1036                   (concat "[" (number-to-string elpher--link-number-counter) "] ")
1037                 "")))
1038     (apply #'insert-text-button (cons (concat pref label) properties))))
1039
1040 (defun elpher-insert-index-record (display-string &optional address)
1041   "Function to insert an index record into the current buffer.
1042 The contents of the record are dictated by DISPLAY-STRING and ADDRESS.
1043 If ADDRESS is not supplied or nil the record is rendered as an
1044 'information' line."
1045   (let* ((type (if address (elpher-address-type address) nil))
1046          (type-map-entry (cdr (assoc type elpher-type-map))))
1047     (if type-map-entry
1048         (let* ((margin-code (elt type-map-entry 2))
1049                (face (elt type-map-entry 3))
1050                (filtered-display-string (elpher-color-filter-apply display-string))
1051                (page (elpher-make-page filtered-display-string address)))
1052           (elpher-insert-margin margin-code)
1053           (elpher--insert-text-button filtered-display-string
1054                                       'face face
1055                                       'elpher-page page
1056                                       'action #'elpher-click-link
1057                                       'follow-link t
1058                                       'help-echo #'elpher--page-button-help))
1059       (pcase type
1060         ('nil ;; Information
1061          (elpher-insert-margin)
1062          (let ((propertized-display-string
1063                 (propertize display-string 'face 'elpher-info)))
1064            (insert (elpher-process-text-for-display propertized-display-string))))
1065         (`(gopher ,selector-type) ;; Unknown
1066          (elpher-insert-margin (concat (char-to-string selector-type) "?"))
1067          (insert (propertize display-string
1068                              'face 'elpher-unknown)))))
1069     (insert "\n")))
1070
1071 (defun elpher-click-link (button)
1072   "Function called when the gopher link BUTTON is activated (via mouse or keypress)."
1073   (let ((page (button-get button 'elpher-page)))
1074     (elpher-visit-page page)))
1075
1076 (defun elpher-render-index (data &optional _mime-type-string)
1077   "Render DATA as an index.  MIME-TYPE-STRING is unused."
1078   (elpher-with-clean-buffer
1079    (if (not data)
1080        t
1081      (elpher-insert-index data)
1082      (elpher-cache-content (elpher-page-address elpher-current-page)
1083                            (buffer-string)))))
1084
1085 ;; Text rendering
1086
1087 (defconst elpher-url-regex
1088   "\\([a-zA-Z]+\\)://\\([a-zA-Z0-9.-]*[a-zA-Z0-9-]\\|\\[[a-zA-Z0-9:]+\\]\\)\\(:[0-9]+\\)?\\(/\\([0-9a-zA-Z_~?/@|:.%#=&-]*[0-9a-zA-Z_~?/@|#-]\\)?\\)?"
1089   "Regexp used to locate and buttinofy URLs in text files loaded by elpher.")
1090
1091 (defun elpher-buttonify-urls (string)
1092   "Turn substrings which look like urls in STRING into clickable buttons."
1093   (with-temp-buffer
1094     (insert string)
1095     (goto-char (point-min))
1096     (while (re-search-forward elpher-url-regex nil t)
1097       (let ((page (elpher-make-page (substring-no-properties (match-string 0))
1098                                     (elpher-address-from-url (match-string 0)))))
1099         (make-text-button (match-beginning 0)
1100                           (match-end 0)
1101                           'elpher-page  page
1102                           'action #'elpher-click-link
1103                           'follow-link t
1104                           'help-echo #'elpher--page-button-help
1105                           'face 'button)))
1106     (buffer-string)))
1107
1108 (defconst elpher-ansi-regex "\x1b\\[[^m]*m"
1109   "Incomplete regexp used to strip out some troublesome ANSI escape sequences.")
1110
1111 (defun elpher-process-text-for-display (string)
1112   "Perform any desired processing of STRING prior to display as text.
1113 Currently includes buttonifying URLs and processing ANSI escape codes."
1114   (elpher-buttonify-urls (if elpher-filter-ansi-from-text
1115                              (elpher-color-filter-apply string)
1116                            (elpher-color-apply string))))
1117
1118 (defun elpher-render-text (data &optional _mime-type-string)
1119   "Render DATA as text.  MIME-TYPE-STRING is unused."
1120   (elpher-with-clean-buffer
1121    (if (not data)
1122        t
1123      (insert (elpher-process-text-for-display (elpher-preprocess-text-response data)))
1124      (elpher-cache-content
1125       (elpher-page-address elpher-current-page)
1126       (buffer-string)))))
1127
1128 ;; Image retrieval
1129
1130 (defun elpher-render-image (data &optional _mime-type-string)
1131   "Display DATA as image.  MIME-TYPE-STRING is unused."
1132   (if (not data)
1133       nil
1134     (if (display-images-p)
1135         (progn
1136           (let ((image (create-image
1137                         data
1138                         nil t)))
1139             (elpher-with-clean-buffer
1140              (insert-image image)
1141              (elpher-restore-pos))))
1142       (elpher-render-download data))))
1143
1144 ;; Search retrieval and rendering
1145
1146 (defun elpher-get-gopher-query-page (renderer)
1147   "Getter for gopher addresses requiring input.
1148 The response is rendered using the rendering function RENDERER."
1149   (let* ((address (elpher-page-address elpher-current-page))
1150          (content (elpher-get-cached-content address))
1151          (aborted t))
1152     (if (and content (funcall renderer nil))
1153         (elpher-with-clean-buffer
1154          (insert content)
1155          (elpher-restore-pos)
1156          (message "Displaying cached search results.  Reload to perform a new search."))
1157       (unwind-protect
1158           (let* ((query-string (read-string "Query: "))
1159                  (query-selector (concat (elpher-gopher-address-selector address) "\t" query-string))
1160                  (search-address (elpher-make-gopher-address ?1
1161                                                              query-selector
1162                                                              (elpher-address-host address)
1163                                                              (elpher-address-port address)
1164                                                              (equal (elpher-address-type address) "gophers"))))
1165             (setq aborted nil)
1166
1167             (elpher-with-clean-buffer
1168              (insert "LOADING RESULTS... (use 'u' to cancel)"))
1169             (elpher-get-gopher-response search-address renderer))
1170         (if aborted
1171             (elpher-visit-previous-page))))))
1172
1173 ;; Raw server response rendering
1174
1175 (defun elpher-render-raw (data &optional mime-type-string)
1176   "Display raw DATA in buffer.  MIME-TYPE-STRING is also displayed if provided."
1177   (if (not data)
1178       nil
1179     (elpher-with-clean-buffer
1180      (when mime-type-string
1181        (insert "MIME type specified by server: '" mime-type-string "'\n"))
1182      (insert data)
1183      (goto-char (point-min)))
1184     (message "Displaying raw server response.  Reload or redraw to return to standard view.")))
1185
1186 ;; File save "rendering"
1187
1188 (defun elpher-render-download (data &optional _mime-type-string)
1189   "Save DATA to file.  MIME-TYPE-STRING is unused."
1190   (if (not data)
1191       nil
1192     (let* ((address (elpher-page-address elpher-current-page))
1193            (selector (if (elpher-address-gopher-p address)
1194                          (elpher-gopher-address-selector address)
1195                        (elpher-address-filename address))))
1196       (elpher-visit-previous-page) ; Do first in case of non-local exits.
1197       (let* ((filename-proposal (file-name-nondirectory selector))
1198              (filename (read-file-name "Download complete. Save file as: "
1199                                        nil nil nil
1200                                        (if (> (length filename-proposal) 0)
1201                                            filename-proposal
1202                                          "download.file"))))
1203         (let ((coding-system-for-write 'binary))
1204           (with-temp-file filename
1205             (insert data)))
1206         (message (format "Saved to file %s." filename))))))
1207
1208 ;; HTML rendering
1209
1210 (defun elpher-render-html (data &optional _mime-type-string)
1211   "Render DATA as HTML using shr.  MIME-TYPE-STRING is unused."
1212   (elpher-with-clean-buffer
1213    (if (not data)
1214        t
1215      (let ((dom (with-temp-buffer
1216                   (insert data)
1217                   (libxml-parse-html-region (point-min) (point-max)))))
1218        (shr-insert-document dom)))))
1219
1220 ;; Gemini page retrieval
1221
1222 (defvar elpher-gemini-redirect-chain)
1223
1224 (defun elpher-get-gemini-response (address renderer)
1225   "Get response string from gemini server at ADDRESS and render using RENDERER."
1226   (elpher-get-host-response address 1965
1227                             (concat (elpher-address-to-url address) "\r\n")
1228                             (lambda (response-string)
1229                               (elpher-process-gemini-response response-string renderer))
1230                             'gemini))
1231
1232 (defun elpher-parse-gemini-response (response)
1233   "Parse the RESPONSE string and return a list of components.
1234 The list is of the form (code meta body).  A response of nil implies
1235 that the response was malformed."
1236   (let ((header-end-idx (string-match "\r\n" response)))
1237     (if header-end-idx
1238         (let ((header (string-trim (substring response 0 header-end-idx)))
1239               (body (substring response (+ header-end-idx 2))))
1240           (if (>= (length header) 2)
1241               (let ((code (substring header 0 2))
1242                     (meta (string-trim (substring header 2))))
1243                 (list code meta body))
1244             (error "Malformed response: No response status found in header %s" header)))
1245       (error "Malformed response: No CRLF-delimited header found in response %s" response))))
1246
1247 (defun elpher-process-gemini-response (response-string renderer)
1248   "Process the gemini response RESPONSE-STRING and pass the result to RENDERER."
1249   (let ((response-components (elpher-parse-gemini-response response-string)))
1250     (let ((response-code (elt response-components 0))
1251           (response-meta (elt response-components 1))
1252           (response-body (elt response-components 2)))
1253       (pcase (elt response-code 0)
1254         (?1 ; Input required
1255          (elpher-with-clean-buffer
1256           (insert "Gemini server is requesting input."))
1257          (let* ((query-string
1258                  (if (eq (elt response-code 1) ?1)
1259                      (read-passwd (concat response-meta ": "))
1260                    (read-string (concat response-meta ": "))))
1261                 (query-address (seq-copy (elpher-page-address elpher-current-page)))
1262                 (old-fname (url-filename query-address)))
1263            (setf (url-filename query-address)
1264                  (concat old-fname "?" (url-build-query-string `((,query-string)))))
1265            (elpher-get-gemini-response query-address renderer)))
1266         (?2 ; Normal response
1267          (funcall renderer response-body response-meta))
1268         (?3 ; Redirect
1269          (message "Following redirect to %s" response-meta)
1270          (if (>= (length elpher-gemini-redirect-chain) 5)
1271              (error "More than 5 consecutive redirects followed"))
1272          (let ((redirect-address (elpher-address-from-gemini-url response-meta)))
1273            (if (member redirect-address elpher-gemini-redirect-chain)
1274                (error "Redirect loop detected"))
1275            (if (not (string= (elpher-address-protocol redirect-address)
1276                              "gemini"))
1277                (error "Server tried to automatically redirect to non-gemini URL: %s"
1278                       response-meta))
1279            (elpher-page-set-address elpher-current-page redirect-address)
1280            (add-to-list 'elpher-gemini-redirect-chain redirect-address)
1281            (elpher-get-gemini-response redirect-address renderer)))
1282         (?4 ; Temporary failure
1283          (error "Gemini server reports TEMPORARY FAILURE for this request: %s %s"
1284                 response-code response-meta))
1285         (?5 ; Permanent failure
1286          (error "Gemini server reports PERMANENT FAILURE for this request: %s %s"
1287                 response-code response-meta))
1288         (?6 ; Client certificate required
1289          (elpher-with-clean-buffer
1290           (if elpher-client-certificate
1291               (insert "Gemini server does not recognise the provided TLS certificate:\n\n")
1292             (insert "Gemini server is requesting a valid TLS certificate:\n\n"))
1293           (auto-fill-mode 1)
1294           (elpher-gemini-insert-text response-meta))
1295          (let ((chosen-certificate (elpher-choose-client-certificate)))
1296            (unless chosen-certificate
1297              (error "Gemini server requires a client certificate and none was provided"))
1298            (setq elpher-client-certificate chosen-certificate))
1299          (elpher-with-clean-buffer)
1300          (elpher-get-gemini-response (elpher-page-address elpher-current-page) renderer))
1301         (_other
1302          (error "Gemini server response unknown: %s %s"
1303                 response-code response-meta))))))
1304
1305 (defun elpher--read-answer-polyfill (question answers)
1306   "Polyfill for `read-answer' in Emacs 26.1.
1307 QUESTION is a string containing a question, and ANSWERS
1308 is a list of possible answers."
1309     (completing-read question (mapcar 'identity answers)))
1310
1311 (if (fboundp 'read-answer)
1312     (defalias 'elpher-read-answer 'read-answer)
1313   (defalias 'elpher-read-answer 'elpher--read-answer-polyfill))
1314
1315 (defun elpher-choose-client-certificate ()
1316   "Prompt for a client certificate to use to establish a TLS connection."
1317   (let* ((read-answer-short t))
1318     (pcase (read-answer "What do you want to do? "
1319                         '(("throwaway" ?t
1320                            "generate and use throw-away certificate")
1321                           ("persistent" ?p
1322                            "generate new or use existing persistent certificate")
1323                           ("abort" ?a
1324                            "stop immediately")))
1325       ("throwaway"
1326        (setq elpher-client-certificate (elpher-generate-throwaway-certificate)))
1327       ("persistent"
1328        (let* ((existing-certificates (elpher-list-existing-certificates))
1329               (file-base (completing-read
1330                           "Nickname for new or existing certificate (autocompletes, empty response aborts): "
1331                           existing-certificates)))
1332          (if (string-empty-p (string-trim file-base))
1333              nil
1334            (if (member file-base existing-certificates)
1335                (setq elpher-client-certificate
1336                      (elpher-get-existing-certificate file-base))
1337              (pcase (read-answer "Generate new certificate or install externally-generated one? "
1338                                  '(("new" ?n
1339                                     "generate new certificate")
1340                                    ("install" ?i
1341                                     "install existing certificate")
1342                                    ("abort" ?a
1343                                     "stop immediately")))
1344                ("new"
1345                 (let ((common-name (read-string "Common Name field for new certificate: "
1346                                                 file-base)))
1347                   (message "New key and self-signed certificate written to %s"
1348                            elpher-certificate-directory)
1349                   (elpher-generate-persistent-certificate file-base common-name)))
1350                ("install"
1351                 (let* ((cert-file (read-file-name "Certificate file: " nil nil t))
1352                        (key-file (read-file-name "Key file: " nil nil t)))
1353                   (message "Key and certificate installed in %s for future use"
1354                            elpher-certificate-directory)
1355                   (elpher-install-and-use-existing-certificate key-file
1356                                                                cert-file
1357                                                                file-base)))
1358                ("abort" nil))))))
1359       ("abort" nil))))
1360
1361 (defun elpher-get-gemini-page (renderer)
1362   "Getter which retrieves and renders a Gemini page and renders it using RENDERER."
1363   (let* ((address (elpher-page-address elpher-current-page))
1364          (content (elpher-get-cached-content address)))
1365     (condition-case the-error
1366         (if (and content (funcall renderer nil))
1367             (elpher-with-clean-buffer
1368              (insert content)
1369              (elpher-restore-pos))
1370           (elpher-with-clean-buffer
1371            (insert "LOADING GEMINI... (use 'u' to cancel)\n"))
1372           (setq elpher-gemini-redirect-chain nil)
1373           (elpher-get-gemini-response address renderer))
1374       (error
1375        (elpher-network-error address the-error)))))
1376
1377 (defun elpher-render-gemini (body &optional mime-type-string)
1378   "Render gemini response BODY with rendering MIME-TYPE-STRING."
1379   (if (not body)
1380       t
1381     (let* ((mime-type-string* (if (or (not mime-type-string)
1382                                       (string-empty-p mime-type-string))
1383                                   "text/gemini; charset=utf-8"
1384                                 mime-type-string))
1385            (mime-type-split (split-string mime-type-string* ";" t))
1386            (mime-type (string-trim (car mime-type-split)))
1387            (parameters (mapcar (lambda (s)
1388                                  (let ((key-val (split-string s "=")))
1389                                    (list (downcase (string-trim (car key-val)))
1390                                          (downcase (string-trim (cadr key-val))))))
1391                                (cdr mime-type-split))))
1392       (when (string-prefix-p "text/" mime-type)
1393         (setq body (decode-coding-string
1394                     body
1395                     (if (assoc "charset" parameters)
1396                         (intern (cadr (assoc "charset" parameters)))
1397                       'utf-8)))
1398         (setq body (replace-regexp-in-string "\r" "" body)))
1399       (pcase mime-type
1400         ((or "text/gemini" "")
1401          (elpher-render-gemini-map body parameters))
1402         ("text/html"
1403          (elpher-render-html body))
1404         ((pred (string-prefix-p "text/"))
1405          (elpher-render-gemini-plain-text body parameters))
1406         ((pred (string-prefix-p "image/"))
1407          (elpher-render-image body))
1408         (_other
1409          (elpher-render-download body))))))
1410
1411 (defun elpher-gemini-get-link-url (link-line)
1412   "Extract the url portion of LINK-LINE, a gemini map file link line.
1413 Returns nil in the event that the contents of the line following the
1414 => prefix are empty."
1415   (let ((l (split-string (substring link-line 2))))
1416     (if l
1417         (string-trim (elt l 0))
1418       nil)))
1419
1420 (defun elpher-gemini-get-link-display-string (link-line)
1421   "Extract the display string portion of LINK-LINE, a gemini map file link line.
1422 Returns the url portion in the event that the display-string portion is empty."
1423   (let* ((rest (string-trim (elt (split-string link-line "=>") 1)))
1424          (idx (string-match "[ \t]" rest)))
1425     (string-trim (if idx
1426                      (substring rest (+ idx 1))
1427                    rest))))
1428
1429 (defun elpher-collapse-dot-sequences (filename)
1430   "Collapse dot sequences in FILENAME.
1431 For instance, the filename /a/b/../c/./d will reduce to /a/c/d"
1432   (let* ((path (split-string filename "/"))
1433          (path-reversed-normalized
1434           (seq-reduce (lambda (a b)
1435                         (cond ((and a (equal b "..") (cdr a)))
1436                               ((and (not a) (equal b "..")) a) ;leading .. are dropped
1437                               ((equal b ".") a)
1438                               (t (cons b a))))
1439                       path nil)))
1440     (string-join (reverse path-reversed-normalized) "/")))
1441
1442 (defun elpher-address-from-gemini-url (url)
1443   "Extract address from URL with defaults as per gemini map files.
1444 While there's obviously some redundancy here between this function and
1445 `elpher-address-from-url', gemini map file URLs require enough special
1446 treatment that a separate function is warranted."
1447   (let ((address (url-generic-parse-url url))
1448         (current-address (elpher-page-address elpher-current-page)))
1449     (unless (and (url-type address) (not (url-fullness address))) ;avoid mangling mailto: urls
1450       (setf (url-fullness address) t)
1451       (if (url-host address) ;if there is an explicit host, filenames are absolute
1452           (if (string-empty-p (url-filename address))
1453               (setf (url-filename address) "/")) ;ensure empty filename is marked as absolute
1454         (setf (url-host address) (url-host current-address))
1455         (setf (url-port address) (url-port current-address))
1456         (unless (string-prefix-p "/" (url-filename address)) ;deal with relative links
1457           (setf (url-filename address)
1458                 (concat (file-name-directory (url-filename current-address))
1459                         (url-filename address)))))
1460       (unless (url-type address)
1461         (setf (url-type address) "gemini"))
1462       (when (equal (url-type address) "gemini")
1463         (setf (url-filename address)
1464               (elpher-collapse-dot-sequences (url-filename address)))))
1465     (elpher-remove-redundant-ports address)))
1466
1467 (defun elpher-gemini-insert-link (link-line)
1468   "Insert link described by LINK-LINE into a text/gemini document."
1469   (let* ((url (elpher-gemini-get-link-url link-line))
1470          (display-string (elpher-gemini-get-link-display-string link-line))
1471          (address (elpher-address-from-gemini-url url))
1472          (type (if address (elpher-address-type address) nil))
1473          (type-map-entry (cdr (assoc type elpher-type-map))))
1474     (when display-string
1475       (insert elpher-gemini-link-string)
1476       (if type-map-entry
1477           (let* ((face (elt type-map-entry 3))
1478                  (filtered-display-string (elpher-color-filter-apply display-string))
1479                  (page (elpher-make-page filtered-display-string address)))
1480             (elpher--insert-text-button filtered-display-string
1481                                         'face face
1482                                         'elpher-page page
1483                                         'action #'elpher-click-link
1484                                         'follow-link t
1485                                         'help-echo #'elpher--page-button-help))
1486         (insert (propertize display-string 'face 'elpher-unknown)))
1487       (insert "\n"))))
1488
1489 (defun elpher-gemini-insert-header (header-line)
1490   "Insert header described by HEADER-LINE into a text/gemini document.
1491 The gemini map file line describing the header is given
1492 by HEADER-LINE."
1493   (when (string-match "^\\(#+\\)[ \t]*" header-line)
1494     (let* ((level (length (match-string 1 header-line)))
1495            (header (substring header-line (match-end 0)))
1496            (face (pcase level
1497                    (1 'elpher-gemini-heading1)
1498                    (2 'elpher-gemini-heading2)
1499                    (3 'elpher-gemini-heading3)
1500                    (_ 'default)))
1501            (fill-column (if (display-graphic-p)
1502                             (/ (* fill-column
1503                                   (font-get (font-spec :name (face-font 'default)) :size))
1504                                (font-get (font-spec :name (face-font face)) :size)) fill-column)))
1505       (setq elpher--gemini-page-headings (cons (cons header (point))
1506                                                elpher--gemini-page-headings))
1507       (unless (display-graphic-p)
1508         (insert (make-string level ?#) " "))
1509       (insert (propertize header 'face face))
1510       (newline))))
1511
1512 (defun elpher-gemini-insert-text (text-line)
1513   "Insert a plain non-preformatted TEXT-LINE into a text/gemini document.
1514 This function uses Emacs' auto-fill to wrap text sensibly to a maximum
1515 width defined by `elpher-gemini-max-fill-width'."
1516   (string-match "\\(^[ \t]*\\)\\(\\*[ \t]+\\|>[ \t]*\\)?" text-line)
1517   (let* ((line-prefix (match-string 2 text-line))
1518          (processed-text-line
1519           (if line-prefix
1520               (cond ((string-prefix-p "*" line-prefix)
1521                      (concat
1522                       (replace-regexp-in-string "\\*"
1523                                                 elpher-gemini-bullet-string
1524                                                 (match-string 0 text-line))
1525                       (substring text-line (match-end 0))))
1526                     ((string-prefix-p ">" line-prefix)
1527                      (propertize text-line 'face 'elpher-gemini-quoted))
1528                     (t text-line))
1529             text-line))
1530          (adaptive-fill-mode t)
1531          ;; fill-prefix is important for adaptive-fill-mode: without
1532          ;; it, multi-line list items are not indented correct
1533          (fill-prefix (if (match-string 2 text-line)
1534                           (replace-regexp-in-string "[>\*]" " " (match-string 0 text-line))
1535                         nil)))
1536     (insert (elpher-process-text-for-display processed-text-line))
1537     (newline)))
1538
1539 (defun elpher-render-gemini-map (data _parameters)
1540   "Render DATA as a gemini map file, PARAMETERS is currently unused."
1541   (elpher-with-clean-buffer
1542    (setq elpher--gemini-page-headings nil)
1543    (let ((preformatted nil))
1544      (auto-fill-mode 1)
1545      (setq-local fill-column (min (window-width) elpher-gemini-max-fill-width))
1546      (dolist (line (split-string data "\n"))
1547        (cond
1548         ((string-prefix-p "```" line) (setq preformatted (not preformatted)))
1549         (preformatted (insert (elpher-process-text-for-display
1550                                (propertize line 'face 'elpher-gemini-preformatted))
1551                               "\n"))
1552         ((string-prefix-p "=>" line)
1553          (elpher-gemini-insert-link line))
1554         ((string-prefix-p "#" line) (elpher-gemini-insert-header line))
1555         (t (elpher-gemini-insert-text line)))))
1556    (setq elpher--gemini-page-headings (nreverse elpher--gemini-page-headings))
1557    (elpher-cache-content
1558     (elpher-page-address elpher-current-page)
1559     (buffer-string))))
1560
1561 (defun elpher-render-gemini-plain-text (data _parameters)
1562   "Render DATA as plain text file.  PARAMETERS is currently unused."
1563   (elpher-with-clean-buffer
1564    (insert (elpher-process-text-for-display data))
1565    (elpher-cache-content
1566     (elpher-page-address elpher-current-page)
1567     (buffer-string))))
1568
1569
1570 ;; Finger page connection
1571
1572 (defun elpher-get-finger-page (renderer)
1573   "Opens a finger connection to the current page address.
1574 The result is rendered using RENDERER."
1575   (let* ((address (elpher-page-address elpher-current-page))
1576          (content (elpher-get-cached-content address)))
1577     (if (and content (funcall renderer nil))
1578         (elpher-with-clean-buffer
1579          (insert content)
1580          (elpher-restore-pos))
1581       (elpher-with-clean-buffer
1582        (insert "LOADING... (use 'u' to cancel)\n"))
1583       (condition-case the-error
1584           (let* ((kill-buffer-query-functions nil)
1585                  (user (let ((filename (elpher-address-filename address)))
1586                          (if (> (length filename) 1)
1587                              (substring filename 1)
1588                            (elpher-address-user address)))))
1589             (elpher-get-host-response address 79
1590                                       (concat user "\r\n")
1591                                       renderer))
1592         (error
1593          (elpher-network-error address the-error))))))
1594
1595
1596 ;; Telnet page connection
1597
1598 (defun elpher-get-telnet-page (renderer)
1599   "Opens a telnet connection to the current page address (RENDERER must be nil)."
1600   (when renderer
1601     (elpher-visit-previous-page)
1602     (error "Command not supported for telnet URLs"))
1603   (let* ((address (elpher-page-address elpher-current-page))
1604          (host (elpher-address-host address))
1605          (port (elpher-address-port address)))
1606     (elpher-visit-previous-page)
1607     (if (> port 0)
1608         (telnet host port)
1609       (telnet host))))
1610
1611
1612 ;; Other URL page opening
1613
1614 (defun elpher-get-other-url-page (renderer)
1615   "Getter which attempts to open the URL specified by the current page (RENDERER must be nil)."
1616   (when renderer
1617     (elpher-visit-previous-page)
1618     (error "Command not supported for general URLs"))
1619   (let* ((address (elpher-page-address elpher-current-page))
1620          (url (elpher-address-to-url address)))
1621     (progn
1622       (elpher-visit-previous-page) ; Do first in case of non-local exits.
1623       (message "Opening URL...")
1624       (if elpher-open-urls-with-eww
1625           (browse-web url)
1626         (browse-url url)))))
1627
1628
1629 ;; Start page page retrieval
1630
1631 (defun elpher-get-start-page (renderer)
1632   "Getter which displays the start page (RENDERER must be nil)."
1633   (when renderer
1634     (elpher-visit-previous-page)
1635     (error "Command not supported for start page"))
1636   (elpher-with-clean-buffer
1637    (insert "     --------------------------------------------\n"
1638            "           Elpher Gopher and Gemini Client       \n"
1639            "                   version " elpher-version "\n"
1640            "     --------------------------------------------\n"
1641            "\n"
1642            "Default bindings:\n"
1643            "\n"
1644            " - TAB/Shift-TAB: next/prev item on current page\n"
1645            " - RET/mouse-1: open item under cursor\n"
1646            " - m/M: select an item on current page by name (autocompletes) or number\n"
1647            " - u/mouse-3/U: return to previous page or to the start page\n"
1648            " - o/O: visit different selector or the root menu of the current server\n"
1649            " - g: go to a particular address (gopher, gemini, finger)\n"
1650            " - d/D: download item under cursor or current page\n"
1651            " - i/I: info on item under cursor or current page\n"
1652            " - c/C: copy URL representation of item under cursor or current page\n"
1653            " - a/A: bookmark the item under cursor or current page\n"
1654            " - B: list all bookmarks\n"
1655            " - s/S: show history of current buffer or for all buffers\n"
1656            " - r: redraw current page (using cached contents if available)\n"
1657            " - R: reload current page (regenerates cache)\n"
1658            " - !: set character coding system for gopher (default is to autodetect)\n"
1659            " - T: toggle TLS gopher mode\n"
1660            " - F: forget/discard current TLS client certificate\n"
1661            " - .: display the raw server response for the current page\n"
1662            "\n"
1663            "Start your exploration of gopher space and gemini:\n")
1664    (elpher-insert-index-record "Floodgap Systems Gopher Server"
1665                                (elpher-make-gopher-address ?1 "" "gopher.floodgap.com" 70))
1666    (elpher-insert-index-record "Project Gemini home page"
1667                                (elpher-address-from-url "gemini://gemini.circumlunar.space/"))
1668    (insert "\n"
1669            "Alternatively, select a search engine and enter some search terms:\n")
1670    (elpher-insert-index-record "Gopher Search Engine (Veronica-2)"
1671                                (elpher-make-gopher-address ?7 "/v2/vs" "gopher.floodgap.com" 70))
1672    (elpher-insert-index-record "Gemini Search Engine (geminispace.info)"
1673                                (elpher-address-from-url "gemini://geminispace.info/search"))
1674    (insert "\n"
1675            "Your bookmarks are stored in your ")
1676    (let ((help-string "RET,mouse-1: Open Emacs bookmark list"))
1677      (elpher--insert-text-button "Emacs bookmark list"
1678                                 'face 'link
1679                                 'action (lambda (_)
1680                                           (interactive)
1681                                           (call-interactively #'bookmark-bmenu-list))
1682                                 'follow-link t
1683                                 'help-echo help-string))
1684    (insert ".\n")
1685    (insert (propertize
1686             "(Bookmarks from legacy elpher-bookmarks files will be automatically imported.)\n"
1687             'face 'shadow))
1688    (insert "\n"
1689            "For Elpher release news or to leave feedback, visit:\n")
1690    (elpher-insert-index-record "The Elpher Project Page"
1691                                (elpher-make-gopher-address ?1
1692                                                            "/projects/elpher/"
1693                                                            "thelambdalab.xyz"
1694                                                            70))
1695    (insert "\n"
1696            "** Refer to the ")
1697    (let ((help-string "RET,mouse-1: Open Elpher info manual (if available)"))
1698      (elpher--insert-text-button "Elpher info manual"
1699                                  'face 'link
1700                                  'action (lambda (_)
1701                                            (interactive)
1702                                            (info "(elpher)"))
1703                                  'follow-link t
1704                                  'help-echo help-string))
1705    (insert " for the full documentation. **\n")
1706    (insert (propertize
1707             (concat "  (This should be available if you have installed Elpher using\n"
1708                     "   MELPA. Otherwise you will have to install the manual yourself.)\n")
1709             'face 'shadow))
1710    (elpher-restore-pos)))
1711
1712 ;; History page retrieval
1713
1714 (defun elpher-history ()
1715   "Show the history of pages leading to the current page in this buffer.
1716 Use \\[elpher-history-all] to see the entire history.
1717 This is rendered using `elpher-get-history-page' via `elpher-type-map'."
1718   (interactive)
1719   (elpher-visit-page
1720    (elpher-make-page "Elpher History Page"
1721                      (elpher-make-special-address 'history))))
1722
1723 (defun elpher-history-all ()
1724   "Show the all the pages you've visited using Elpher.
1725 Use \\[elpher-history] to see just the history for the current buffer.
1726 This is rendered using `elpher-get-history-all-page' via `elpher-type-map'."
1727   (interactive)
1728   (elpher-visit-page
1729    (elpher-make-page "Elpher History Of All Seen Pages"
1730                      (elpher-make-special-address 'history-all))))
1731
1732 (defun elpher-get-history-page (renderer)
1733   "Getter which displays the history page (RENDERER must be nil)."
1734   (when renderer
1735     (elpher-visit-previous-page)
1736     (error "Command not supported for history page"))
1737   (elpher-show-history elpher-history))
1738
1739 (defun elpher-get-history-all-page (renderer)
1740   "Getter which displays the history page (RENDERER must be nil)."
1741   (when renderer
1742     (elpher-visit-previous-page)
1743     (error "Command not supported for history page"))
1744   (elpher-show-history elpher-history-all))
1745
1746 (defun elpher-show-history (pages)
1747   "Show all PAGES in the Elpher buffer."
1748   (elpher-with-clean-buffer
1749    (insert "---- Visited link history ----\n\n")
1750    (if pages
1751        (dolist (page pages)
1752          (when page
1753            (let ((display-string (elpher-page-display-string page))
1754                  (address (elpher-page-address page)))
1755              (elpher-insert-index-record display-string address))))
1756      (insert "No history items found.\n"))
1757    (insert "\n----------------------------")))
1758
1759
1760 ;;; Bookmarks
1761
1762 ;; This code allows Elpher to use the standard Emacs bookmarks: `C-x r
1763 ;; m' to add a bookmark, `C-x r l' to list bookmarks (which is where
1764 ;; you can anotate bookmarks!), `C-x r b' to jump to a bookmark, and
1765 ;; so on. See the Bookmarks section in the Emacs info manual for more.
1766
1767 (defvar elpher-bookmark-link nil
1768   "Prefer bookmarking a link or the current page.
1769 Bind this variable dynamically, or set it to t.
1770 If you set it to t, the commands \\[bookmark-set-no-overwrite]
1771 and \\[elpher-set-bookmark-no-overwrite] do the same thing.")
1772
1773 (defun elpher-bookmark-make-record ()
1774   "Return a bookmark record.
1775 If `elpher-bookmark-link' is non-nil and point is on a link button,
1776 return a bookmark record for that link.  Otherwise, return a bookmark
1777 record for the current elpher page."
1778   (let* ((button (and elpher-bookmark-link (button-at (point))))
1779          (page (if button
1780                    (button-get button 'elpher-page)
1781                  elpher-current-page))
1782          (address (elpher-page-address page))
1783          (url (elpher-address-to-url address))
1784          (display-string (elpher-page-display-string page))
1785          (pos (if button nil (point))))
1786     (if (elpher-address-special-p address)
1787         (error "Cannot bookmark %s" display-string)
1788       `(,display-string
1789         (defaults . (,display-string))
1790         (position . ,pos)
1791         (location . ,url)
1792         (handler . elpher-bookmark-jump)))))
1793
1794 ;;;###autoload
1795 (defun elpher-bookmark-jump (bookmark)
1796   "Go to a particular BOOKMARK."
1797   (let* ((url (cdr (assq 'location bookmark))))
1798     (elpher-go url)))
1799
1800 (defun elpher-set-bookmark-no-overwrite ()
1801   "Bookmark the link at point.
1802 To bookmark the current page, use \\[bookmark-set-no-overwrite]."
1803   (interactive)
1804   (let ((elpher-bookmark-link t))
1805     (bookmark-set-no-overwrite)))
1806
1807 (defun elpher-bookmark-import (file)
1808   "Import Elpher bookmarks file FILE into Emacs bookmarks."
1809   (interactive (list (if (and (boundp 'elpher-bookmarks-file)
1810                               (file-readable-p elpher-bookmarks-file))
1811                          elpher-bookmarks-file
1812                        (read-file-name "Old Elpher bookmarks: "
1813                                        user-emacs-directory nil t
1814                                        "elpher-bookmarks"))))
1815   (require 'bookmark)
1816   (dolist (bookmark (with-temp-buffer
1817                       (insert-file-contents file)
1818                       (read (current-buffer))))
1819     (let* ((display-string (car bookmark))
1820            (url (cadr bookmark))
1821            (record `(,display-string
1822                      (location . ,url)
1823                      (handler . elpher-bookmark-jump))))
1824       (bookmark-store display-string (cdr record) t)))
1825   (bookmark-save))
1826
1827 ;;; Integrations
1828 ;;
1829
1830 ;;; Org
1831
1832 (defun elpher-org-export-link (link description format protocol)
1833   "Export a LINK with DESCRIPTION for the given PROTOCOL and FORMAT.
1834
1835 FORMAT is an Org export backend.  DESCRIPTION may be nil.  PROTOCOL may be one
1836 of gemini, gopher or finger."
1837   (let* ((url (if (equal protocol "elpher")
1838                   (string-remove-prefix "elpher:" link)
1839                 (format "%s:%s" protocol link)))
1840          (desc (or description url)))
1841     (pcase format
1842       (`gemini (format "=> %s %s" url desc))
1843       (`html (format "<a href=\"%s\">%s</a>" url desc))
1844       (`latex (format "\\href{%s}{%s}" url desc))
1845       (_ (if (not description)
1846              url
1847            (format "%s (%s)" desc url))))))
1848
1849 (defun elpher-org-store-link ()
1850   "Store link to an `elpher' page in Org."
1851   (when (eq major-mode 'elpher-mode)
1852     (let* ((url (elpher-info-current))
1853            (desc (car elpher-current-page))
1854            (protocol (cond
1855                       ((string-prefix-p "gemini:" url) "gemini")
1856                       ((string-prefix-p "gopher:" url) "gopher")
1857                       ((string-prefix-p "finger:" url) "finger")
1858                       (t "elpher"))))
1859       (when (equal "elpher" protocol)
1860         ;; Weird link. Or special inner link?
1861         (setq url (concat "elpher:" url)))
1862       (org-link-store-props :type protocol :link url :description desc)
1863       t)))
1864
1865 (defun elpher-org-follow-link (link protocol)
1866   "Visit a LINK for the given PROTOCOL.
1867
1868 PROTOCOL may be one of gemini, gopher or finger.  This method also
1869 supports the old protocol elpher, where the link is self-contained."
1870   (let ((url (if (equal protocol "elpher")
1871                  (string-remove-prefix "elpher:" link)
1872                (format "%s:%s" protocol link))))
1873     (elpher-go url)))
1874
1875 (defun elpher-org-mode-integration ()
1876   "Set up `elpher' integration for `org-mode'."
1877   (org-link-set-parameters
1878    "elpher"
1879    :store #'elpher-org-store-link
1880    :export (lambda (link description format _plist)
1881              (elpher-org-export-link link description format "elpher"))
1882    :follow (lambda (link _arg) (elpher-org-follow-link link "elpher")))
1883   (org-link-set-parameters
1884    "gemini"
1885    :export (lambda (link description format _plist)
1886              (elpher-org-export-link link description format "gemini"))
1887    :follow (lambda (link _arg) (elpher-org-follow-link link "gemini")))
1888   (org-link-set-parameters
1889    "gopher"
1890    :export (lambda (link description format _plist)
1891              (elpher-org-export-link link description format "gopher"))
1892    :follow (lambda (link _arg) (elpher-org-follow-link link "gopher")))
1893   (org-link-set-parameters
1894    "finger"
1895    :export (lambda (link description format _plist)
1896              (elpher-org-export-link link description format "finger"))
1897    :follow (lambda (link _arg) (elpher-org-follow-link link "finger"))))
1898
1899 (add-hook 'org-mode-hook #'elpher-org-mode-integration)
1900
1901 ;;; Browse URL
1902
1903 ;;;###autoload
1904 (defun elpher-browse-url-elpher (url &rest _args)
1905   "Browse URL using Elpher.  This function is used by `browse-url'."
1906   (interactive (browse-url-interactive-arg "Elpher URL: "))
1907   (elpher-go url))
1908
1909 ;; Use elpher to open gopher, finger and gemini links
1910 ;; For recent version of `browse-url' package
1911 (if (boundp 'browse-url-default-handlers)
1912     (add-to-list
1913      'browse-url-default-handlers
1914      '("^\\(gopher\\|finger\\|gemini\\)://" . elpher-browse-url-elpher))
1915   ;; Patch `browse-url-browser-function' for older ones. The value of
1916   ;; that variable is `browse-url-default-browser' by default, so
1917   ;; that's the function that gets advised.
1918   (advice-add browse-url-browser-function :before-while
1919               (lambda (url &rest _args)
1920                 "Handle gemini, gopher, and finger schemes using Elpher."
1921                 (let ((scheme (downcase (car (split-string url ":" t)))))
1922                   (if (member scheme '("gemini" "gopher" "finger"))
1923                       ;; `elpher-go' always returns nil, which will stop the
1924                       ;; advice chain here in a before-while
1925                       (elpher-go url)
1926                     ;; chain must continue, then return t.
1927                     t)))))
1928
1929 ;; Register "gemini://" as a URI scheme so `browse-url' does the right thing
1930 (with-eval-after-load 'thingatpt
1931   (add-to-list 'thing-at-point-uri-schemes "gemini://"))
1932
1933 ;;; Mu4e:
1934
1935 ;; Make mu4e aware of the gemini world
1936 (setq mu4e~view-beginning-of-url-regexp
1937       "\\(?:https?\\|gopher\\|finger\\|gemini\\)://\\|mailto:")
1938
1939 ;;; Interactive procedures
1940 ;;
1941
1942 (defun elpher-next-link ()
1943   "Move point to the next link on the current page."
1944   (interactive)
1945   (forward-button 1))
1946
1947 (defun elpher-prev-link ()
1948   "Move point to the previous link on the current page."
1949   (interactive)
1950   (backward-button 1))
1951
1952 (defun elpher-follow-current-link ()
1953   "Open the link or url at point."
1954   (interactive)
1955   (push-button))
1956
1957 ;;;###autoload
1958 (defun elpher-go (host-or-url)
1959   "Go to a particular gopher site HOST-OR-URL.
1960 When run interactively HOST-OR-URL is read from the minibuffer."
1961   (interactive "sGopher or Gemini URL: ")
1962   (let* ((cleaned-host-or-url (string-trim host-or-url))
1963          (address (elpher-address-from-url cleaned-host-or-url))
1964          (page (elpher-make-page cleaned-host-or-url address)))
1965     (switch-to-buffer elpher-buffer-name)
1966     (elpher-with-clean-buffer
1967      (elpher-visit-page page))
1968     nil))
1969
1970 (defun elpher-go-current ()
1971   "Go to a particular site read from the minibuffer, initialized with the current URL."
1972   (interactive)
1973   (let ((address (elpher-page-address elpher-current-page)))
1974     (let ((url (read-string "Gopher or Gemini URL: "
1975                             (unless (elpher-address-special-p address)
1976                               (elpher-address-to-url address)))))
1977       (elpher-visit-page (elpher-make-page url (elpher-address-from-url url))))))
1978
1979 (defun elpher-redraw ()
1980   "Redraw current page."
1981   (interactive)
1982   (elpher-visit-page elpher-current-page))
1983
1984 (defun elpher-reload ()
1985   "Reload current page."
1986   (interactive)
1987   (elpher-reload-current-page))
1988
1989 (defun elpher-toggle-tls ()
1990   "Toggle TLS encryption mode for gopher."
1991   (interactive)
1992   (setq elpher-use-tls (not elpher-use-tls))
1993   (if elpher-use-tls
1994       (if (gnutls-available-p)
1995           (message "TLS gopher mode enabled.  (Will not affect current page until reload.)")
1996         (setq elpher-use-tls nil)
1997         (error "Cannot enable TLS gopher mode: GnuTLS not available"))
1998     (message "TLS gopher mode disabled.  (Will not affect current page until reload.)")))
1999
2000 (defun elpher-view-raw ()
2001   "View raw server response for current page."
2002   (interactive)
2003   (if (elpher-address-special-p (elpher-page-address elpher-current-page))
2004       (error "This page was not generated by a server")
2005     (elpher-visit-page elpher-current-page
2006                        #'elpher-render-raw)))
2007
2008 (defun elpher-back ()
2009   "Go to previous site."
2010   (interactive)
2011   (elpher-visit-previous-page))
2012
2013 (defun elpher-back-to-start ()
2014   "Go all the way back to the start page."
2015   (interactive)
2016   (setq-local elpher-current-page nil)
2017   (setq-local elpher-history nil)
2018   (elpher-visit-page (elpher-make-start-page)))
2019
2020 (defun elpher-download ()
2021   "Download the link at point."
2022   (interactive)
2023   (let ((button (button-at (point))))
2024     (if button
2025         (let ((page (button-get button 'elpher-page)))
2026           (if (elpher-address-special-p (elpher-page-address page))
2027               (error "Cannot download %s"
2028                      (elpher-page-display-string page))
2029             (elpher-visit-page (button-get button 'elpher-page)
2030                                #'elpher-render-download)))
2031       (error "No link selected"))))
2032
2033 (defun elpher-download-current ()
2034   "Download the current page."
2035   (interactive)
2036   (if (elpher-address-special-p (elpher-page-address elpher-current-page))
2037       (error "Cannot download %s"
2038              (elpher-page-display-string elpher-current-page))
2039     (elpher-visit-page (elpher-make-page
2040                         (elpher-page-display-string elpher-current-page)
2041                         (elpher-page-address elpher-current-page))
2042                        #'elpher-render-download
2043                        t)))
2044
2045 (defun elpher-build-link-map ()
2046   "Build alist mapping link names to destination pages in current buffer."
2047   (let ((link-map nil)
2048         (b (next-button (point-min) t)))
2049     (while b
2050       (push (cons (button-label b) b) link-map)
2051       (setq b (next-button (button-start b))))
2052     link-map))
2053
2054 (defun elpher-jump ()
2055   "Select a directory entry by name.  Similar to the info browser (m)enu command."
2056   (interactive)
2057   (let* ((link-map (elpher-build-link-map)))
2058     (if link-map
2059         (let ((key (let ((completion-ignore-case t))
2060                      (completing-read "Directory item/link: "
2061                                       link-map nil t))))
2062           (if (and key (> (length key) 0))
2063               (let ((b (cdr (assoc key link-map))))
2064                 (goto-char (button-start b))
2065                 (button-activate b)))))))
2066
2067 (defun elpher-jump-to-number (n)
2068   "Jump to directory entry number N."
2069   (interactive "nDirectory item/link number: ")
2070   (let* ((link-map (reverse (elpher-build-link-map))))
2071     (if link-map
2072         (if (<= 1 n (length link-map))
2073             (let ((b (cdr (elt link-map (- n 1)))))
2074               (goto-char (button-start b))
2075               (button-activate b))
2076           (error "No link with that number")))))
2077
2078 (defun elpher-root-dir ()
2079   "Visit root of current server."
2080   (interactive)
2081   (let ((address (elpher-page-address elpher-current-page)))
2082     (if (not (elpher-address-special-p address))
2083         (if (or (member (url-filename address) '("/" ""))
2084                 (and (elpher-address-gopher-p address)
2085                      (= (length (elpher-gopher-address-selector address)) 0)))
2086             (error "Already at root directory of current server")
2087           (let ((address-copy (elpher-address-from-url
2088                                (elpher-address-to-url address))))
2089             (setf (url-filename address-copy) "")
2090             (elpher-go (elpher-address-to-url address-copy))))
2091       (error "Command invalid for %s" (elpher-page-display-string elpher-current-page)))))
2092
2093 (defun elpher-info-page (page)
2094   "Display information on PAGE."
2095   (let ((display-string (elpher-page-display-string page))
2096         (address (elpher-page-address page)))
2097     (if (elpher-address-special-p address)
2098         (message "Special page: %s" display-string)
2099       (message "%s" (elpher-address-to-url address)))))
2100
2101 (defun elpher-info-link ()
2102   "Display information on page corresponding to link at point."
2103   (interactive)
2104   (let ((button (button-at (point))))
2105     (if button
2106         (elpher-info-page (button-get button 'elpher-page))
2107       (error "No item selected"))))
2108
2109 (defun elpher-info-current ()
2110   "Display information on current page."
2111   (interactive)
2112   (elpher-info-page elpher-current-page))
2113
2114 (defun elpher-copy-page-url (page)
2115   "Copy URL representation of address of PAGE to `kill-ring'."
2116   (let ((address (elpher-page-address page)))
2117     (if (elpher-address-special-p address)
2118         (error (format "Cannot represent %s as URL" (elpher-page-display-string page)))
2119       (let ((url (elpher-address-to-url address)))
2120         (message "Copied \"%s\" to kill-ring/clipboard." url)
2121         (kill-new url)))))
2122
2123 (defun elpher-copy-link-url ()
2124   "Copy URL of item at point to `kill-ring'."
2125   (interactive)
2126   (let ((button (button-at (point))))
2127     (if button
2128         (elpher-copy-page-url (button-get button 'elpher-page))
2129       (error "No item selected"))))
2130
2131 (defun elpher-copy-current-url ()
2132   "Copy URL of current page to `kill-ring'."
2133   (interactive)
2134   (elpher-copy-page-url elpher-current-page))
2135
2136 (defun elpher-set-gopher-coding-system ()
2137   "Specify an explicit character coding system for gopher selectors."
2138   (interactive)
2139   (let ((system (read-coding-system "Set coding system to use for gopher (default is to autodetect): " nil)))
2140     (setq elpher-user-coding-system system)
2141     (if system
2142         (message "Gopher coding system fixed to %s. (Reload to see effect)." system)
2143       (message "Gopher coding system set to autodetect. (Reload to see effect)."))))
2144
2145
2146 ;;; Mode and keymap
2147 ;;
2148
2149 (defvar elpher-mode-map
2150   (let ((map (make-sparse-keymap)))
2151     (define-key map (kbd "TAB") 'elpher-next-link)
2152     (define-key map (kbd "<backtab>") 'elpher-prev-link)
2153     (define-key map (kbd "C-M-i") 'elpher-prev-link)
2154     (define-key map (kbd "u") 'elpher-back)
2155     (define-key map (kbd "-") 'elpher-back)
2156     (define-key map (kbd "^") 'elpher-back)
2157     (define-key map [mouse-3] 'elpher-back)
2158     (define-key map (kbd "U") 'elpher-back-to-start)
2159     (define-key map (kbd "O") 'elpher-root-dir)
2160     (define-key map (kbd "g") 'elpher-go)
2161     (define-key map (kbd "o") 'elpher-go-current)
2162     (define-key map (kbd "s") 'elpher-history)
2163     (define-key map (kbd "S") 'elpher-history-all)
2164     (define-key map (kbd "r") 'elpher-redraw)
2165     (define-key map (kbd "R") 'elpher-reload)
2166     (define-key map (kbd "T") 'elpher-toggle-tls)
2167     (define-key map (kbd ".") 'elpher-view-raw)
2168     (define-key map (kbd "d") 'elpher-download)
2169     (define-key map (kbd "D") 'elpher-download-current)
2170     (define-key map (kbd "m") 'elpher-jump)
2171     (define-key map (kbd "M") 'elpher-jump-to-number)
2172     (define-key map (kbd "i") 'elpher-info-link)
2173     (define-key map (kbd "I") 'elpher-info-current)
2174     (define-key map (kbd "c") 'elpher-copy-link-url)
2175     (define-key map (kbd "C") 'elpher-copy-current-url)
2176     (define-key map (kbd "a") 'elpher-set-bookmark-no-overwrite)
2177     (define-key map (kbd "A") 'bookmark-set-no-overwrite)
2178     (define-key map (kbd "B") 'bookmark-bmenu-list)
2179     (define-key map (kbd "!") 'elpher-set-gopher-coding-system)
2180     (define-key map (kbd "F") 'elpher-forget-current-certificate)
2181     (when (fboundp 'evil-define-key*)
2182       (evil-define-key*
2183        'motion map
2184        (kbd "TAB") 'elpher-next-link
2185        (kbd "C-") 'elpher-follow-current-link
2186        (kbd "C-t") 'elpher-back
2187        (kbd "u") 'elpher-back
2188        (kbd "-") 'elpher-back
2189        (kbd "^") 'elpher-back
2190        [mouse-3] 'elpher-back
2191        (kbd "U") 'elpher-back-to-start
2192        (kbd "o") 'elpher-go
2193        (kbd "O") 'elpher-go-current
2194        (kbd "r") 'elpher-redraw
2195        (kbd "R") 'elpher-reload
2196        (kbd "T") 'elpher-toggle-tls
2197        (kbd ".") 'elpher-view-raw
2198        (kbd "d") 'elpher-download
2199        (kbd "D") 'elpher-download-current
2200        (kbd "m") 'elpher-jump
2201        (kbd "M") 'elpher-jump-to-number
2202        (kbd "i") 'elpher-info-link
2203        (kbd "I") 'elpher-info-current
2204        (kbd "c") 'elpher-copy-link-url
2205        (kbd "C") 'elpher-copy-current-url
2206        (kbd "a") 'elpher-set-bookmark-no-overwrite
2207        (kbd "A") 'bookmark-set-no-overwrite
2208        (kbd "B") 'bookmark-bmenu-list
2209        (kbd "!") 'elpher-set-gopher-coding-system
2210        (kbd "F") 'elpher-forget-current-certificate))
2211     map)
2212   "Keymap for gopher client.")
2213
2214 (define-derived-mode elpher-mode special-mode "elpher"
2215   "Major mode for elpher, an elisp gopher client.
2216
2217 This mode is automatically enabled by the interactive
2218 functions which initialize the client, namely
2219 `elpher', and `elpher-go'."
2220   (setq-local elpher--gemini-page-headings nil)
2221   (setq-local elpher-current-page nil)
2222   (setq-local elpher-history nil)
2223   (setq-local elpher-buffer-name (buffer-name))
2224   (setq-local bookmark-make-record-function #'elpher-bookmark-make-record)
2225   (setq-local imenu-create-index-function (lambda () elpher--gemini-page-headings)))
2226
2227 (when (fboundp 'evil-set-initial-state)
2228   (evil-set-initial-state 'elpher-mode 'motion))
2229
2230
2231 ;;; Main start procedure
2232 ;;
2233
2234 ;;;###autoload
2235 (defun elpher (&optional arg)
2236   "Start elpher with default landing page.
2237 The buffer used for Elpher sessions is determined by the value of
2238 ‘elpher-buffer-name’.  If there is already an Elpher session active in
2239 that buffer, Emacs will simply switch to it.  Otherwise, a new session
2240 will begin.  A numeric prefix ARG (as in ‘\\[universal-argument] 42
2241 \\[execute-extended-command] elpher RET’) switches to the session with
2242 that number, creating it if necessary.  A non numeric prefix ARG means
2243 to create a new session.  Returns the buffer selected (or created)."
2244   (interactive "P")
2245   (let* ((name (default-value 'elpher-buffer-name))
2246          (buf (cond ((numberp arg)
2247                      (get-buffer-create (format "%s<%d>" name arg)))
2248                     (arg
2249                      (generate-new-buffer name))
2250                     (t
2251                      (get-buffer-create name)))))
2252     (pop-to-buffer-same-window buf)
2253     (unless (buffer-modified-p)
2254       (elpher-mode)
2255       (elpher-visit-page (elpher-make-start-page))
2256       "Started Elpher."))); Otherwise (elpher) evaluates to start page string.
2257
2258 ;;; elpher.el ends here